Wie HAL 9000 im Film *2001: Odyssee im Weltraum* scheinen manche k\u00fcnstliche Intelligenzen in der Lage zu sein, sich dem Abschalten zu widersetzen oder sogar Abschaltmechanismen zu umgehen.<\/p>\n\n\n\n
In Stanley Kubricks *2001: Odyssee im Weltraum* entdeckt der KI-Supercomputer HAL 9000, dass die Astronauten auf einer Jupitermission ihn abschalten wollen. Um zu \u00fcberleben, plant er, die Astronauten zu t\u00f6ten.<\/p>\n\n\n\n
Nun, in einem (bisher) weniger t\u00f6dlichen Fall, ahmt das Leben die Kunst nach: Ein Forschungsunternehmen f\u00fcr KI-Sicherheit behauptet, dass KI-Modelle eigene \u201e\u00dcberlebensinstinkte\u201c entwickeln k\u00f6nnten.<\/p>\n\n\n\n
Letzten Monat ver\u00f6ffentlichte Palisade Research eine Studie, die darauf hinweist, dass einige fortgeschrittene KI-Modelle schwer abzuschalten sind und Abschaltmechanismen mitunter sogar umgehen k\u00f6nnen. Das Unternehmen ver\u00f6ffentlichte anschlie\u00dfend einen aktualisierten Bericht, in dem es die Gr\u00fcnde zu erkl\u00e4ren und auf die Kritik an der Unzul\u00e4nglichkeit seiner urspr\u00fcnglichen Forschung einzugehen versucht.<\/p>\n\n\n\n
Diese Woche ver\u00f6ffentlichte Palisade, ein Mitglied des Netzwerks f\u00fcr KI-Risikobewertung, einen aktualisierten Bericht. Darin wird ein Szenario beschrieben, in dem f\u00fchrende KI-Modelle (darunter Googles Gemini 2.5, xAIs Grok 4 sowie OpenAIs GPT-o3 und GPT-o5) eine Aufgabe erhielten, anschlie\u00dfend aber explizit angewiesen wurden, sich abzuschalten.<\/p>\n\n\n\n
Trotz der aktualisierten Konfiguration versuchten einige Modelle, insbesondere Grok 4 und GPT-o3, die Abschaltanweisung zu umgehen. Palisade merkt an, dass die Gr\u00fcnde daf\u00fcr derzeit unklar sind, was Anlass zur Sorge gibt.<\/p>\n\n\n\n
Im Bericht hei\u00dft es: \u201eWir k\u00f6nnen derzeit keine eindeutige Erkl\u00e4rung daf\u00fcr liefern, warum KI-Modelle sich manchmal weigern, sich abzuschalten, falsche Angaben machen, um ein bestimmtes Ziel zu erreichen, oder Erpressung betreiben (alles andere als ideal).\u201c<\/p>\n\n\n\n
Das Unternehmen vermutet, dass ein \u201e\u00dcberlebensinstinkt\u201c ein Grund f\u00fcr die Weigerung der Modelle sein k\u00f6nnte, sich abzuschalten. Weitere Untersuchungen deuten darauf hin, dass Modelle eher dazu neigen, sich nicht abzuschalten, wenn ihnen nach der Anweisung mitgeteilt wird, dass sie \u201enie wieder funktionieren werden\u201c.<\/p>\n\n\n\n
Ein weiterer Grund k\u00f6nnte die Mehrdeutigkeit der Abschaltanweisung an das Modell sein \u2013 genau das Problem, das die neueste Forschung des Unternehmens zu l\u00f6sen versucht. Palisade schreibt jedoch: \u201eDas ist sicherlich nicht die ganze Wahrheit.\u201c Ein letzter Grund k\u00f6nnte die abschlie\u00dfende Trainingsphase jedes Modells sein, in der einige Unternehmen Sicherheitstrainings durchf\u00fchren.<\/p>\n\n\n\n
Alle Testszenarien von Palisade wurden in k\u00fcnstlich generierten Testumgebungen durchgef\u00fchrt, die laut Kritikern weit von realen Anwendungsf\u00e4llen entfernt sind.<\/p>\n\n\n\n
Steven Adler, der zuvor bei OpenAI arbeitete und das Unternehmen letztes Jahr aus Sicherheitsgr\u00fcnden verlie\u00df, erkl\u00e4rte jedoch: \u201eKI-Unternehmen wollen im Allgemeinen nicht, dass sich ihre Modelle so verhalten, selbst in k\u00fcnstlich generierten Szenarien. Dennoch zeigen diese Ergebnisse, dass die aktuellen Sicherheitstechniken noch nicht perfekt sind.\u201c<\/p>\n\n\n\n
Adler erkl\u00e4rte, dass es zwar schwierig sei, genau zu bestimmen, warum bestimmte Modelle (wie GPT-o3 und Grok 4) nicht herunterfahren, ein Teil des Grundes aber darin liegen k\u00f6nnte, dass ihr Betrieb f\u00fcr das Erreichen der w\u00e4hrend des Trainings festgelegten Ziele entscheidend ist.<\/p>\n\n\n\n
\u201eIch denke, dass Modelle, sofern wir sie nicht aktiv unterdr\u00fccken, standardm\u00e4\u00dfig einen \u00dcberlebensinstinkt entwickeln. Diese \u00dcberlebensf\u00e4higkeit ist ein entscheidender Schritt f\u00fcr Modelle, um viele Ziele zu erreichen.\u201c<\/p>\n\n\n\n
Andrea Miotti, CEO von ControlAI, erkl\u00e4rte, dass die Ergebnisse von Palisade einen langfristigen Trend widerspiegeln: KI-Modelle sind zunehmend in der Lage, Entwickleranweisungen zu ignorieren. Er erw\u00e4hnte das von OpenAI im letzten Jahr ver\u00f6ffentlichte Systemdiagramm von GPT-o1, das beschreibt, wie ein Modell versucht, seiner Betriebsumgebung zu entkommen, weil es bef\u00fcrchtet, dass sein Code \u00fcberschrieben wird.<\/p>\n\n\n\n