Die KI-Apokalypse: Wenn Künstliche Intelligenz außer Kontrolle gerät

00:00:09: Hallo, herzlich willkommen zu einer neuen Episode von neun vorneuen.

00:00:13: Hallo Stefan!

00:00:15: Hallo Toni!

00:00:15: Ich denke du machst heute mit?

00:00:20: Toni hat auch hallo gesagt.

00:00:21: sehr schön wenn es hier schon um nicht menschliche Intelligenz geht dann ist doch schön.

00:00:28: wenn da auch eine Katze dabei ist

00:00:30: würde ich sagen haben wir die richtigen Intelligenzen

00:00:34: genau die richtige Intelligenz?

00:00:36: Heute geht's mal wieder um KI aus mehr oder weniger aktuellem Anlass, meinst du das wird hier unsere letzte Episode werden?

00:00:45: Weil dann die Menschheit endgültig ausgelöscht worden werden wird von der KI.

00:00:51: Also erstmal ja also muss man was machen und du wolltest dieses Thema besprechen.

00:00:56: ich habe mich dem gebeugt.

00:00:58: außerdem bist du nicht state of the art.

00:01:01: wir reden schon lange nicht über die KI.

00:01:04: Wir reden über

00:01:05: superintelligence

00:01:08: Weil der Grund... Das ist einfach verrückt.

00:01:13: Trump hat das ja gesagt, dass er nicht mehr KI sagen will weil KI nach Fake klingt.

00:01:19: Ich weiß auch nicht was soll man dazu noch sagen?

00:01:23: Und da hat er eine Anweisung an die gesamte Regierungsbeamten geben, dass sie nicht mehr von KI sind und nur von Superintelligence reden als quasi von Ihnen.

00:01:32: Ja, genau.

00:01:32: Ich hätte jetzt auch gedacht Superintelligence ist doch eigentlich ja selber vielleicht auch American intelligence oder so.

00:01:37: das wäre doch auch Passend.

00:01:39: naja gut aber wie auch immer dass jetzt Trump ist glaube ich nur so ein.

00:01:43: also zumindest dieser Aussage Das hat er ja bei der UN glaub ich gesagt.

00:01:46: diese aussage ist jetzt nur ein weiß ich auch nicht etwas seltsamer neben Neben Strang von der ganzen Geschichte Aber es hat ja durchaus aktuelle Aktuellere Ursachen Dass wir jetzt hier mal wieder über KI reden aber nicht nur.

00:01:59: Okay, dann sag du noch mal was zu Herrn Trump bitte.

00:02:07: Er will ja keine Regulierung das hat er schon vor der Uhrende Rede gesagt und er meinte die einzige Regulierung die man braucht ist ein starker und kluger Präsident natürlich mit einem gigantischen IQ

00:02:22: Ein super intelligenter Präsident.

00:02:27: Problem ist so etwas machen wir wenn er nicht mehr da ist aber darüber denkt er wahrscheinlich auch nicht nach

00:02:31: würde ich sagen.

00:02:31: Das ist ihnen dann wahrscheinlich ja

00:02:33: oder es ist egal, genau das kann gut sein.

00:02:37: Aber nun darfst du.

00:02:39: Nun darf ich den etwas größeren Bogen spannen meinst du?

00:02:43: Ja weil also wir reden über KI aber eben nicht über KI allgemein oder was auch immer sondern über KI Apokalypse und da gab's ja durchaus den einen oder anderen Anlass in den letzten Monaten weswegen wir darüber reden also sowohl Sowohl Vorkommnisse, wie die KI oder wie eine KI oder mehrere KI-Agenten etwas verrückt gespielt haben und sich mehr oder weniger selbstständig in irgendwelche Systeme reingehackt haben.

00:03:13: Aber eben auch Aussagen von ehemaligen Mitarbeitenden oder Chefs von KI-Plattformen, von KI Unternehmen, von Techunternehmen, die eben auch grundsätzlich über die Gefahr oder nicht Gefahr von künstlicher Intelligenz gesprochen

00:03:28: haben.".

00:03:30: Womit fangen wir an, Stefan?

00:03:33: Mit dem Terminator.

00:03:34: Oder

00:03:35: mit Hell oder mit Qualityland.

00:03:41: Das Thema

00:03:42: ist ja nicht neu!

00:03:43: Das gibt es in der Literatur.

00:03:45: Ich habe das recherchiert von seinem Achtzehnundneunzigen Jahrhundert, also Romane, dass eine KI, eine kunstliche Intelligenz natürlich damals ein bisschen anders genannt die Welt übernehmen oder vernichten war.

00:03:57: Und quasi Arnold ist dem Geister heute bei uns, der Urterminator.

00:04:02: Das ist sicher ein Grund warum das ganze Thema... also es würde ich schon auch sagen dass das ein Grund ist warum das Thema halt so viel Aufmerksamkeit bekommt weil es eben Geschichten aufgreift oder Geschichtsstränge aufgreifen die wie du gesagt hast die es sehr lange über hundert Jahre gibt.

00:04:24: Also das Bild der KI-Apokalypse ist schon oft entsprechend an die Wand gemalt worden und ist jetzt plötzlich von den KI-Konzern, vom Chefs einiger KI-konzerne ja auch beschworen worden.

00:04:41: Ja genau!

00:04:42: Die Frage ist halt warum.

00:04:44: oder vielleicht gehen wir reden nochmal über die aktuellen Anlässe, die das Ganze dann eben hervorgerufen hat diese Diskussion.

00:04:51: Gehen wir mal Anfang September zurück?

00:04:54: Es ist erst Anfang September.

00:04:56: Ich glaube, es ist noch ein bisschen früher oder?

00:04:57: Weil ich würde jetzt mit Huggingface eigentlich anfangen.

00:05:00: Ich weiß nicht, womit du anfangen wolltest.

00:05:02: War das nicht Anfang September?

00:05:04: Ja also ich glaube es war früher aber es kam dann irgendwann Ende August.

00:05:07: Anfang September kam's hoch glaub' ich.

00:05:09: nur da wurde es... Die Meldung

00:05:10: kam aus.

00:05:11: Meine zweite September wäre Hugging Face durch die Trost gegangen.

00:05:15: Aber da müssen wir uns jetzt nicht doch festlegen

00:05:17: Ja genau.

00:05:17: Aber Hintergrund, ich glaube wir müssen es jetzt auch nicht zu sehr ausarbeiten oder auserzählen ist halt das.

00:05:24: es gab eben einen Test von KI-Agenten die eine bestimmte Aufgabe erfüllen sollten und haben dann eben sozusagen selbstständig um diese Aufgabe zu erfülle sind sie aus einer geschlossenen eigentlich sicheren Testumgebung aus einem Sandbox ausgebrochen einigt, haben gemeinsam Methoden, Strategien und Lösungen entwickelt wie sie eben aus dieser Sandbox ausbrechen können.

00:05:55: Wie Sie sich ins Internet einlocken können und dann eben in sich in ein anderes Unternehmen Huggingface reinhackten können um letztendlich diese Aufgabe die ihr gegeben worden oder die ihnen gegeben worden sind zu erfüllen.

00:06:09: also es klingt wenn man das so Als ich das das erste Mal gehört habe in einem Podcast von der New York Times, glaub' ich.

00:06:14: Das klang für mich wirklich nach Science-Fiction Filmen oder Erzählungen?

00:06:21: Es geht ja weiter so!

00:06:22: Also die Meldung gehen ja ständig weiter.

00:06:25: Tausende von KI-Agenten, Carpain Huckingface... Glaube.

00:06:31: gestern hab ich jetzt geschickt.

00:06:33: Okmai-Agenten sind in Australien ins Gesundheitssystem eingepräumt und da Daten abgesaugt.

00:06:39: Also gefühlt hört man ja in jedem paar Tagen so eine Meldung.

00:06:43: Auch Gemini sollen mal aus einer Testumgebung ausgebrochen sein, Claude sowieso.

00:06:48: also das ist die ganzen Großen sind dabei und man kann dann schon ein Trumpbeat oder wie wir es nennen machen.

00:06:57: sie Schlagzeilen derholen sich.

00:06:59: Ja Also, auch solche Nachrichten oder solche Diskussionen gibt es ja auch schon ein bisschen länger von wegen Apokalypse.

00:07:06: und was macht die KI?

00:07:07: Und wird sie uns irgendwann alle fast klarhafen oder was auch immer.

00:07:12: Ich habe das schon relativ lange abgetan, worüber wir auch noch reden werden als eben so eine Art Marketing-Stunt von den KI-Plattformen oder dass das halt einen Grund ist.

00:07:23: aber ich muss sagen... Als ich dann eben von einigen Leuten, Journalisten und anderen Experten die sich halt mit KI dann doch sehr viel besser ausgehen als ich das tue.

00:07:31: Die hat auch immer sehr positiv oder sehr konstruktiv dem ganzen KI Thema gegenüberstanden als die halt davon erzählt haben gesagt haben dass ihnen das auch sehr zu denken gibt da muss ich sagen da hats bei mir irgendwie auch ja weiß ich auch nicht da hat sich bei mich auch einen Schalter umgelegt muss ich es sagen.

00:07:46: also Ich bin mir nicht mehr so sicher ob das alles nur noch weil sie auch nicht Untergangsszenarien sind, die nicht ernst gemeint sind oder halt Marketing-Sprech von den entsprechenden Plattformen.

00:07:59: Ja also es ist ganz witzig, als du das Thema vorgeschlagen hast Anfang der Woche war ich gerade meiner Frau im Wochenende in Spazieren gegangen und Sie hat mir dann, ich habe ja auch eines Versachen mal geschickt und sie meinte auch dass die KI uns abends zerstören würde, dass das rausgekommen wird und sie hatte mit KI nicht so unbedingt viel am Hut.

00:08:17: Also das ist schon sehr in der Bevölkerung angekommen.

00:08:22: Bei unserer Reuenvertragung ist ja schon fast vermuten, dass ich es etwas entspannter sehe als du siehst aber nevertheless.

00:08:33: Es wird so beigesprochen, dass die KI sich immer weiter optimiert und besser lernt, dass wir auch teilweise gar nicht diese Lernprozesse mehr nachvollziehen können weil wir die Sprache der KI nicht mehr verstehen Und dass in der rasenden Geschwindigkeit die Superintelligenz eben entsprechend entwickelt wird, die dann Menschen überlegen ist und die auch irgendwann die Menschheit abschaffen könne.

00:08:57: Das ist so wenn ich das einigermaßen kurz zusammenfassen darf – die Vision oder die Befürchtung dahinter steht, die apokalyptische Befürchterung, dass das passieren könne und das greift eben, wie man sieht auf Ohrängste zurück und auch Literarische Modelle zurück Normans, ob die schon lange gibt.

00:09:18: Ja und es wird dann eben auch nochmal befeuert unterstützt angetrieben wie auch mal man's nennen mag eben von Personen, die halt im ja in der KI-Welt dann eben auf unterwegs sind.

00:09:31: also ich glaube neben dem Hugging Face Incident der dann zu solchen Aufregungen führte war da eben auch Ja die Erklärung eines Mitarbeitenden, eines Mitarbeiter von Anthropic Jacob Coxen der eben zurückgetreten ist und eben genau aus dem Grund im Grunde.

00:09:54: Das er gesagt hat dass eben die ja die KI-Plattformen Anthropic und andere halt KI nicht mehr unter Kontrolle haben und das er eben ganz konkret diese Gefahr sieht.

00:10:05: Also eine zehnprozentige Wahrscheinlichkeit, glaube ich, wurde genannt dass die KI uns die Menschheit zerstören werde und ja dann etwas verplüffend war.

00:10:16: Der ist von Entropic weg.

00:10:18: und dann sagt ein hoher Entropic-Manager der auch für dieses Thema zuständig ist würde diese Befürchtung durchaus teilen.

00:10:28: Und dann fragt man sich jetzt auch warum unterstützen namhafte Persönlichkeiten in diesen Unternehmen bei auch mehr Ei, bei Andropic und noch bei anderen.

00:10:44: Warum befeuern Sie diese Angst vor der KI-Apocalypse?

00:10:48: Aber nochmal ein Schritt zurück.

00:10:49: also ich meine stell dir vor, der Chef von Airbus würde sagen wir haben hier ganz neues Flugzeug das ist super kann total viel.

00:10:58: aber die Wahrscheinlichkeit dass es dass die Flugzeuge abstürzen werden liegen bei zehn Prozent.

00:11:01: ich mein Wer würde irgendeine Regierung sagen, klar wir lassen die trotzdem fliegen.

00:11:11: Das finde ich alleine schon so irre dass es solche Aussagen gibt und Gleichzeitig nutzen alle Menschen weiterhin KI und Unternehmen.

00:11:21: Und ich weiß nicht was, also das muss man sich einfach mal oder weiß ich nicht.

00:11:24: Ich bin nicht an sich das Gehörter dachte mir so ja okay es mag irgendwie Doomsday-Szenario sein aber letztendlich ist das doch totaler Wahnsinn dass man dann nicht einfach mal ein bisschen ernsthaft darüber nachdenkt.

00:11:35: Jetzt wird ja drüber nachgedacht haben, dass so jemand wie Trump dann sagt die regulieren wir.

00:11:39: Regulieren sollte man's trotzdem nicht.

00:11:40: Das ist doch verrückt!

00:11:42: Oder?

00:11:44: Ja, ich weiß nicht mehr, was man dazu sagen soll.

00:11:49: Einige sprechen ja davon, dass es eine Marketing-Strategie sei und eine bewusste Marketing-Strategie mit verschiedenen Motiven, die einen Job bekommen wollen.

00:12:04: Die wollen ja alle auch an die Börse gehen.

00:12:05: Und natürlich wird hier suggeriert die Hersteller der SuperKI haben enorme Macht, haben enormen Wert und deshalb müssen wir sie auch hoch bewerten.

00:12:18: Könnte ein ganz einfacher finanzieller Grund sein was ja gerade bei amerikanischen Unternehmen nicht selten der Fall ist.

00:12:27: Also es war ein Motiv das da so quadriert wird.

00:12:30: Das zweite Motiv ist dass man Regulierung haben möchte und da gibt's natürlich verschiedene Ja, Motive zu regulieren.

00:12:42: Ich glaube wenn wir zwei uns darüber unterhalten dann wollen wir die Macht einstrengen von den großen Konsernen und einfach sicherstellen dass gewisse Regeln eingehalten werden, glaube ich ohne dass sie mich mit ihr abgesprochen haben das wir da einer Meinung sind.

00:12:56: aber bei den Konzernen könnte es ja auch durchaus so sein dass Sie bewusstes einsetzen um kleiner Wettbewerber eben entsprechend klein zu halten.

00:13:07: Sie sind in einer so starken Position, ob es ein Google Entropic oder Open AI ist und haben solchen Vorsprung.

00:13:15: Die Kleine ist schwer am Aufhalten.

00:13:16: Wenn die sich noch mit dem Thema Regulierung auseinandersetzen müssen könnte es noch enger werden.

00:13:21: Was ja vor allen Dingen auch das kann ich schon auch nachvollziehen.

00:13:24: Ja auch Kommentare Meinungen von zum Beispiel europäischen Alternativen.

00:13:30: auch ist also der Mistral Chef oder Gründer, Arthur Mensch.

00:13:36: Der hat ja zum Beispiel genau das gesagt, dass es halt eine Methode ist um kleinere KI-Wettbewerber auch Open Source Angebote oder Open Source Anbieter aus dem Markt zu drängen weil die eben erstens jetzt schon weiter hinterher sind und dann gar nicht mehr aufschließen können.

00:13:56: Das kann ich auch durchaus grundsätzlich nachvollziehen.

00:14:00: dieses Bedenken

00:14:02: Ja, und dann ist natürlich auch noch unter einem weiteren Aspekt Big Business.

00:14:07: Und das ist natürlich dass dann eben auch entsprechende Sicherheitsdienstleistungen entsprechend vermarktet werden können, dass eben KI-Sicherheit ein Thema ist und das natürlich auch damit wer Geschäft gemacht werden kann.

00:14:20: Also das sind die Motive, die ich gefunden habe, die die großen Konzerne haben könnten wenn sie das entsprechend herauf beschwören.

00:14:30: Ich glaube eine Sache noch, weswegen die Unternehmen auch ne Regulierung fordern.

00:14:37: Weil man könnte jetzt ja sagen warum machen sie es nicht selber?

00:14:40: Also wenn die selber sagen das ist alles wahnsinnig gefährlich und wir müssen die Entwicklung verlangsamen oder wir wollen ne Regulation dann können die das doch selber machen.

00:14:48: aber ich glaube dass es halt der Grund ist sagen, es wird halt nicht funktionieren wenn niemand das vorgibt.

00:14:54: Weil halt es gibt dann immer noch einen Anbieter entweder jetzt innerhalb der US des US-Wettbewerbs oder eben China weil das ist ja ein weiterer Grund die sich halt daneben nicht dran halten wobei jetzt auch eine Regulierung.

00:15:07: ich meine wer soll diese Regulierungen machen?

00:15:08: also weil ich glaube China ist dann schon nochmal oder andere Anbiete aus anderen Ländern das ist halt schon doch mal ein wichtiger Punkt.

00:15:17: und auch finde ich ein valider Punkt dass Bevor, wenn wir halt jetzt aufhören damit oder es verlangsamen gibt's dann andere die da mit einfach weitermachen und wir müssen halt entsprechend auch dabei bleiben oder aufholen oder was auch immer.

00:15:33: Ein wichtiger Punkt ist China ist natürlich jetzt ein gewisserweise Außenvordemachen was sie wollen aber das ist schon sehr... Ist das eine seltsame Allianz?

00:15:42: Also Elon Musk hat Regulierung gefordert Sam Altman, ich glaube auch jetzt von der UN, wenn mir alles täuscht.

00:15:52: Und der Chef von Anthropic, Dario Amodei, dass Sie ihm sagen, wir müssen Entwicknungspause machen.

00:16:02: Es kann dem Tempo nicht mehr weitergehen.

00:16:04: und dann haben wir ja schon unseren Donald, der gesagt, nee, nein!

00:16:07: Wir sind im Wettbewerb mit China, bittigerweise ist gerade... Der chinesische Präsident bei ihm zu Gast, dann wird hinten und vorne hoch viert.

00:16:16: Und wir müssten weitermachen sonst über Rhein-Drunchen nach.

00:16:20: Es gibt ja noch einen der derselben Meinung ist wie Donald Trump vielleicht der das anders argumentiert aber der da ja derselbe Meinung ist nämlich unser Freund Mark Zuckerberg, der sagt auch dass eine Regulierung nicht notwendig ist, dass auch die Entwicklung das Entwicklungstempo nicht eingeschränkt werden sollte.

00:16:42: Er sagt eben die Gesetze, die wir schon haben, die Einschränkungen, die reichen halt aus.

00:16:48: es gibt jetzt schon wie hat er's genannt?

00:16:50: Product Liability Produkthaftungsgesetze an die sich Unternehmen halten müssen und die dann eben ja ausreichen würden.

00:16:59: Es war lustig, dass er das sagt, ich weiß nicht wie viele Rechtsstreitigkeiten Meta schon zahlen musste, weil sie eben sich nicht an Recht und Gesetz halten oder die Rechtsfleidigkeiten beilegen wollen.

00:17:15: Das ist schon irgendwie ein bisschen ironisch.

00:17:17: aber ja...

00:17:20: So ist es!

00:17:21: Ja?

00:17:21: Und dann müssen wir jetzt mal schauen was dort entsprechend passiert.

00:17:25: Man liest dann die Artikeln und haben einiges in unserem Notebook hinterlegt sehr viele Quellen und es steht ein bisschen unglaublich davor, da hast du die einen die sagen Ja, die Karriagenten vernetzen sich.

00:17:39: Die bilden ganz schnell Schwärme.

00:17:40: Die auch als Schwarme der Schwarm haben es immer wieder bei den Liter.

00:17:44: Kommt da noch dazu?

00:17:45: Die dann, wie ich koordiniert, dann davor gehen und sich abstimmen autonom handeln.

00:17:51: Und dann gibt's die anderen, die sagen das ist Quatsch!

00:17:55: Die machen im Prinzip nur das was man ihnen aufgetragen hat.

00:17:59: Wenn so etwas über Hacking-Face passiert, dann ist es passiert weil einfach die Testumgehung fehlerhaft war.

00:18:05: Also es gibt da einen starken Verrecht, die einfach sagen ja sie können gewisse Aufgaben.

00:18:10: Das liebt beispielsweise im Schach wesentlich besser bewältigen als wir Menschen das können.

00:18:15: aber sie können eine gewisse komplexe Dinge wo unser Gehirn für gemacht ist Kreativität blablabla eben nicht erlegen.

00:18:24: und wir sind eben nicht auf dem Weg zu singulären KI die uns überholt, die uns Überlegen ist.

00:18:30: Also siehst du beide Argumente, du siehst auch täglich die Meldung, die wir ja schon zitiert haben.

00:18:35: Und dann steht dann als ... Ja, da sind wir ja ja schon irgendwo gewisserweise leidig.

00:18:39: Wir sind keine KI-Forscher, keine Entwickler.

00:18:41: Du bist davor und überlegst, was ist denn nun eigentlich das?

00:18:44: Was man dort glauben soll?

00:18:47: Ja genau!

00:18:48: Und auf wen man da vertrauen sollen.

00:18:49: Weil das ist halt eben auch noch das Problem.

00:18:51: also so richtig vertrauenswürdig ist da niemand finde ich.

00:18:54: Also Trump sowieso nicht.

00:18:56: Also ich weiß nicht, vertraust du jetzt jemanden wirklich von den ganzen Treffs?

00:19:01: Von den KI-Plattformen?

00:19:02: also ich nicht so richtig.

00:19:07: Ja was soll man dazu sagen?

00:19:08: ja?

00:19:10: Ich kenne sie ja nicht ne?

00:19:11: Nee klar!

00:19:12: Also

00:19:13: ich kenne ein Atoment jetzt nicht der jetzt mal die Open Source.

00:19:15: Okay das weiß ich auch

00:19:20: nicht.

00:19:22: sondern keine weiteren namhaften hier in den Deutschland persönlich, um mit deren Motive jetzt wirklich einschätzt zu können oder aus der Berichterstattung über sie eine gewisse Schlüsse ziehen zu können.

00:19:35: Mir ist das würde ich auch nicht erstaunen natürlich immer diese open source basierte Ansatz von Grund her sympathisch und ich glaube es auch.

00:19:44: die einzige europäische Chance ist sich irgendwo da noch ein bisschen zu behaupten wenn überhaupt um eher entsprechend eine gewisse Offenheit festzuzuhren und eben nicht komplett abhängig zu sein von US-amerikanischen Konsernen.

00:20:00: Und Chinesendien natürlich auch hier wieder mit günstigeren Preisen entsprechend in den Markt gehen, ja?

00:20:09: Ja also da stimme ich dir zu bin ich absolut auf deiner Seite das eben die... Also dass sich halt auch eher Entweder halt europäischen Anbietern, da vielleicht denn die dazu eine Meinung haben, dass dann eher Vertrauen oder wie du auch gesagt hast, Open Source Entwicklungen grundsätzlich mehr vertrauen würde.

00:20:28: Aber der Grund warum ich jetzt Aussagen von von Menschen aus Europa oder von Experten aus Europa, da mehr Vertraue ist halt eben auch weil ich dem europäischen Regulierungssystem halt auch mehr vertraue.

00:20:41: Also es ist jetzt nicht so dass da irgendwie alles super funktioniert aber da wird wenigstens über Regulierung gesprochen also auf politischer Ebene gesprochen, weil ich mein Donald Trump... also ich weiß gar nicht wie China dazu steht aber Regulierungen sind bei China wenn überhaupt hat er nur andere Motivation, aber Donald Trump ist ja aktiv dagegen.

00:21:01: J.D.

00:21:01: Vance auch, der will dann der nächste Präsident werden.

00:21:04: also deswegen vertraue ich da irgendwie in europäischen Aussagen noch mehr.

00:21:09: Aber Hoffnung dass da großartig eine globale Initiative raus entsteht habe ich nicht wirklich.

00:21:18: Also es wird keinen künstlichen Intelligenz-Sperrvertrag geben mit den Atomwaffen.

00:21:24: Das war eine schöne Formulierung.

00:21:34: Hier müssten ja private Konzerne entsprechend reguliert werden, plus China was im relativ schwer erscheint.

00:21:44: aber die Frage ist ob jetzt eine EU das wahrscheinlich dann der einzige Akteur das machen könnte.

00:21:52: ich bin mir nicht sicher ob eine UN bei den WTO-Rechten, die gerade China und auch die USA haben dazu eine Regulierung kommt.

00:22:00: Also der AI-Akt aus Europa oder weiter Regulierungen, die da entsprechend angedacht werden, müssten dort greifen.

00:22:06: aber die Frage ist halt wie durchfragen sie sind wenn es eben nur die Europäer sind, die jetzt aufgucken?

00:22:13: Ja ich glaube es gibt doch ein paar, weil das gab ja jetzt... Bei der EU gab's ja eben eine Aufforderung von Wievilsens, achtzehn Staats- und Regierungschefs, die dann eben eine Forderung nach mehr Regulieren abgegeben haben, aber ich glaube das ist jetzt nicht nur Europa dabei.

00:22:27: Aber ja wie du sagst China oder USA ist halt nicht dabei.

00:22:29: Ja, aber man kann es durchsetzen.

00:22:31: Genau, genau.

00:22:34: Also auch da fehlt mir halt die Fantasie mir das vorzustellen dass sie sich in irgendeiner Form durchsetzen?

00:22:44: Es ist schwierig also... Ich bin da auch zu viel gespannt und denke schon eine Regulierung brauchen, also auch wir gewisse Grenzen setzen sollten.

00:22:57: Aber wir sollten uns währenddessen glaube ich nicht in Panik versetzen lassen und vor allem auch nicht die akuten, die aktuellen Probleme vergessen, die KI ja schon verursacht haben.

00:23:13: Die sind viel näher als die mögliche Vernichtung der Menschheit.

00:23:20: Also es ist unbenommend dass durch KI ein massiver Energieverbrauch entsteht.

00:23:26: Das ist, glaube ich, nicht mehr diskutiert.

00:23:28: Deshalb wollen wir einige Atomkraftwerke für die KI-Reffenzensoren entsprechend bauen.

00:23:34: Übrigens auch eine Argumente, die sagen, eine Superintelligenz kann gar nicht entstehen würden sie sofort merken weil er so viel Energie braucht, das es ganz ungemarkt geschehen kann.

00:23:47: Bin ich mir nicht so sicher im Zeitaldung der Vernetzung?

00:23:50: Ja, aber man kann das nicht auch anders lösen können.

00:23:52: Ne anyway!

00:23:53: Aber erst mal bleiben wir mal nicht bei der SuperKI sondern sagen einfach die jetzige KI so wie sie jetzt ist es werden ja überall Wachenzentren aus den Proben gestanden.

00:24:00: Auch hier in Deutschland braucht massiv Energie.

00:24:05: Welche Energie dann da genutzt wird?

00:24:07: Das diskutieren wir jetzt immer nicht.

00:24:09: Das ist einfach der Fakt.

00:24:11: Wir marken ständig im Wahlkämpfen aber auch ganz privat wie sehr KI eingesetzt wird für Deepfakes, für politische Kampagnen oder auch für Betrugsmaschinen.

00:24:27: Die entsprechend durchgeführt war also wirklich KI einerseits im Wahlkampf genutzt wird von der Regel radikalen Kräften und zu manipulieren.

00:24:41: Also das sind schon mal zwei Punkte.

00:24:43: wir merken auch oder sehen immer mehr den Front-Hinsautonomenwaffensystem in denen die KI eben entsprechend steuert und ich glaube auch im Ukrainekrieg kann man da schon einiges von ahnen sehen.

00:24:57: Als vierter Punkt das Thema Arbeitsplätze, das wird ja nun auch schon seit Monaten diskutiert dass gerade die Einstiegsarbeitsplätze durch KI ersetzt werden können.

00:25:11: Also da, wo wir im Nationalismus gelernt haben eine Lokalberichterstattung bei Sport berichten.

00:25:17: Das kann die KI besser mittlerweile als die Journalisten vorhanden und billiger ist.

00:25:23: nur ein Beispiel rechts an der Steuerberater etc.

00:25:26: Es gibt eine Reihe von Protein-Tätigkeiten, die einfach durch KI wahrscheinlich ersetzt werden.

00:25:32: Und Last but not least haben wir natürlich das Thema Urheberrechtsverletzung was weiterhin noch akut ist.

00:25:39: Was wir ja auch ständig sehen Und wir haben es ja auch letzte Woche bei unserer Apple-Diskussion geführt, dass die halt auch irgendwelche Daten, die urheberrechtlich geschützt worden abgesaugt haben um ihre KI zu planieren.

00:25:51: Das sind schon mal fünf ganz reale Probleme, die heute schon rund um KI existieren und die angegangen werden müssen.

00:26:01: Wo auch man sagen kann sicherlich ein Thema der Gulligung für die ein oder andere Notwendigkeit ist, um das Problem zu lösen.

00:26:09: Also das sind Dinge, die man sich jetzt anschauen sollte.

00:26:12: und das Thema Apokalypse da würde ich ja erst mal es nicht vergessen aber wirklich beobachten.

00:26:20: Würdest du dann sagen dass das eben weil diese fünf Punkte, die du jetzt genannt hast werden ja so bisschen verdeckt durch diese apokalypse Diskussion?

00:26:28: Ja!

00:26:28: Das auch das eine Motivation sein könnte, derjenigen die sich halt für die KI-Entwicklung zuständig sind um eben diese Dinge dann vielleicht nicht...

00:26:37: Man ist neblich herzen lassen.

00:26:38: Ist sie leicht?

00:26:39: Ich weiß es nicht!

00:26:40: Es ist möglich.

00:26:41: ja also... Die Dinge sind jetzt in unserer Charter rausbekommen.

00:26:47: das wurde also hier als die tatsächlich heute existierenden direkten Probleme entsprechend wurden die benannt.

00:26:57: Also da sollte man nachschauen, ob es an der Nebelkürzen sind, alles möglich.

00:27:04: Aber man sieht hier auch das natürlich in einer Gemengelage relativ kompliziert ist.

00:27:07: Trump will nicht, Zuckerberg will auch nicht, China will auch nichts aber die anderen wollen wieder.

00:27:12: Es ist eine sehr undurchsichtige Lage finde ich.

00:27:17: Ja also die größte Hoffnung, die ich eigentlich habe Also eigentlich, ich meine es ist dann vielleicht auch ein bisschen anecdotische Evidenz oder individuelles empfinden.

00:27:29: Aber immer wenn ich irgendwo Medienberichte und auch in Social Media Ankündigungen von irgendwelchen KI-Betreibern oder KI-Plattformen entwickeln oder Chefs wie Mark Zuckerberg

00:27:41: usw.,

00:27:42: die halt über KI irgendwas sagen, kommt halt wahnsinnig viel negative Kritik dazu eben aus der Bevölkerung.

00:27:52: Das ist ja schon auch was, was wir immer stärker merken.

00:27:55: Du hast die fünf Gründe genannt oder die fünf Dinge, die jetzt gerade ange... ...die jetzt angegangen werden müssen.

00:28:00: also grade auch dieses Thema Jobverlust als auch Urheberrecht Datenschutz und so weiter das sind ja Themen Rechenzentren Energieverbrauch das sind hier Themen, die halt die Bevölkerung eben auch sehr stark betreffen und auch sehr stark aktivieren würde ich sagen Und da sehe ich halt fast noch oder habe ich fast noch die größere Hoffnung als in denen weiß ich nicht in diese Gruppe der der Verantwortlichen, dass sich da vielleicht doch was tut.

00:28:24: Dass eben auch die politische Klasse dann irgendwie mitbekommt.

00:28:30: hier muss etwas getan werden weil es ihm einfach nicht mehr vermittelbar ist.

00:28:34: Wir sollten auch sicherlich nicht vergessen jetzt zum Abschluss des Gesprächs zu erwähnen das es einige viele nahmhafte KI-Forscher und Experten gibt Richard Socher Jan Leckhan auch von META übrigens die eben sagen, Leute das ist alles tratscht.

00:28:49: Das ist nur heiße Luft, die da abgesondert wird.

00:28:52: Die Sprachmodelle sind reine Statistik und Mathematik.

00:28:56: Sie haben keine magischen Zähigkeiten Denn mit dieser KI-Menschenvernichtungsvision wird ja irgendwo... ...die Magie der KI, die Superintelligenz sie ist eben nicht künstlich beschworen.

00:29:08: Und die sagen halt den Beimer flach Alles nicht so schlimm.

00:29:12: Wir stehen davor Ja, wir wissen es nicht so genau.

00:29:16: Also magisch würde ich das auch nicht sehen.

00:29:18: aber ihr habt schon Bedenken wie diese Agenten plötzlich als Schwärme im Namen der Arbeiten.

00:29:24: Das ist schon bedenktlich ja?

00:29:25: Ja

00:29:25: also ganz kurz dazu.

00:29:28: Dann sollen die mir erklären warum nicht so ein Vorfall jetzt mit Hugging Face, warum das eben nicht auch bei einem Rüstungsunternehmen passieren kann oder was du jetzt gerade mit Australien auch anfangen unseres Gesprächs gesagt hattest.

00:29:40: Man muss gar nicht irgendwelche Weiß ich nicht, irgendwelche mythischen oder aus der Literatur und aus dem Film oder so irgendwelchen Bilder herauf beschwören.

00:29:48: Also wie gesagt dann sollen sie mir mal... Dann sollen die Leute da halt sagen das ist alles nur heiße Luftmaerklären, was denn mit Huggingface ist?

00:29:55: Und warum das nicht woanders genauso passieren kann?

00:29:58: Was dann größeren Schaden für uns alle... Ja,

00:30:02: bei Hugging Face ist es wirklich nicht abgesichert gewesen.

00:30:04: Wir haben jetzt auch die Tage in den Meldungen gehabt dass beinahe ein chinesisches Flugzeug abgeschlossen worden wäre.

00:30:10: gerade noch mal gut gegangen, aufgrund einer Erzählung der KI beinahe.

00:30:15: Ja ich finde aber einen Punkt den hat Gunnar Sohn ja auch mal hier mit Gründel des Podcasts zwar auch gebracht.

00:30:24: er sagt halt das Problem ist nicht eher die amoklaufende KI sondern dass wir immer mehr Verantwortung unserer Verantwortung an die KI abgeben.

00:30:36: und Denk ich, ist schon ein Punkt den man nicht vergessen sollte.

00:30:43: Also was gibt man nun an die KI ab?

00:30:46: Und das ist eigentlich auch eine Entscheidung... ...auch schon in unserer täglichen Arbeit bevor wir überhaupt von der Apokalypse reden.

00:30:52: und wo sage ich da bin ich noch als Mensch derjenige,... ...der die Entscheidung bräuft und er die Macht über diese Entscheidung hat.

00:31:01: Das ist sicherlich auch einen Punkt.

00:31:05: an die autonomen Waffensysteme und so weiter, sofort denkt.

00:31:10: Es gibt Gebiete wo man wahrscheinlich Macht abgeben wird, abgeben muss aber auf der anderen Seite sollte es halt auch so sein dass wir uns gewisse Entscheidungen auch nicht leicht machen sollten sondern einfach eine eigenen Verantwortung lassen sollten.

00:31:24: Ja und was ja.

00:31:24: wieder komme ich wieder zurück zum Punkt Was ja wieder ein Plädoyer ist für mehr demokratische Kontrolle für mehr Transparenz und für mehr Regulierung.

00:31:35: Das große Problem ist halt eine OpenAI, eine Meta, eine Google, eine Entropic.

00:31:41: Um mal GIV zu nennen sind außerhalb unserer Konsole und solange ein Donald Trump dort eben entsprechend agiert und nicht mehr einen anderen Präsident auch in einer anderen politischen Ausrichtung sind wir sehr, sehr schwer an der Lage die zu regulieren.

00:31:56: was nicht heißt es nicht bedeuten so im Gegenteil dass wir auf europäischer Ebene alles tun müssen um vernünftige Regulierungen reinzubekommen.

00:32:07: Ich würde natürlich dann schon wieder diejenigen sagen, ihr wollt ja bitte, dass die Europäer nicht wettbewerbsfähig sind.

00:32:13: Ihr reguliert uns und so haben wir dort keine Chance mehr.

00:32:15: Aber ich glaube es wird kein Weg dran vorbeiführen, dass man gewisse Dinge einfach dort unterbindet oder ihre Gesetze verbietet.

00:32:23: Ja, sehe ich genauso.

00:32:26: Schwierig!

00:32:27: Die Europäern sind immer die Reguliere.

00:32:28: also bei allen Themen, die wir jetzt in den letzten Monaten auch hier diskutiert haben Kommt immer DMADSAA-Akt und die Utropäa, die mit dem Zeigefinger durch die Gegend laufen.

00:32:41: Irgendwer muss es halt machen.

00:32:43: Social Media, äh äh alter Kinder ja und so was.

00:32:47: Da haben sie ja immer wieder.

00:32:48: Ja.

00:32:49: Und ja...

00:32:50: Wie gesagt, irgendwer muss das machen.

00:32:52: Führt halt gern den Weg dran vorbei.

00:32:53: Dann macht ihn mal.

00:32:54: Ich würde mich irgendwann da machen müssen.

00:32:57: Dann mache ich jetzt genau.

00:32:59: Ja!

00:33:02: Dann weiter kommen wir

00:33:04: an der Ecke.

00:33:05: Ich meine die Entwicklung geht so schnell, so rasend schnell alles.

00:33:08: Schauen wir mal was jetzt bei Veröffentlichung dieser Episode schon wieder passiert ist oder was jetzt in den nächsten Wochen passiert.

00:33:15: und ja wann wird das nächste Mal über diese Themen dann hier sprechen werden?

00:33:21: Ja es bleibt interessant ich weiß nicht.

00:33:24: macht den Bücher noch lesen soll.

00:33:27: Qualdiland hat ein ganz Hörbuch, Qualdi Land von Marc Oberkling.

00:33:31: Dort übernimmt ihr auch die KI durokratisch.

00:33:36: Die macht mehr oder weniger in halb neun tausend aus der ODC im Weltraum haben wir alle natürlich auch gesehen, wobei der ja schon was menschlich ist und einen Menschen-Zielkonflikt hineinläuft.

00:33:49: Aber wenn man die EKI schon verwendet wird es auch schwierig Und unser Arnold ist natürlich allgegenwartig.

00:33:56: Ich glaube, ich werde jetzt mal bei keinem Science-Fiction-Bücher oder Film in den nächsten Tagen

00:34:02: leben.

00:34:03: Lies einfach die Nachrichten und das kommt doch selber raus würde ich sagen.

00:34:07: Das ist

00:34:07: ja auch Science-fiction genau.

00:34:10: Ja gut dann vielen Dank!

00:34:14: Wir haben keine wirkliches Fazit außer wir sollten... von der europäische Seite auch so gut wie möglich regulieren, auch wenn wir wissen dass unser Einfluss eingeschränkt ist.

00:34:26: So sieht es aus!

00:34:28: Das ist doch mal das Schlusswort.

00:34:30: dann vielen Dank und bis zum nächsten Mal mit einem mal schauen was für

00:34:36: ein Thema.

00:34:37: Mit einem Thema!

00:34:39: So viel können wir sagen.

00:34:41: Bis dann

00:34:41: tschüss.