Der „Godfather“ der KI, Geoffrey Hinton, kündigte seinen Job bei Google und befürchtet den Einsatz von KI „für böse Dinge“.
„Ernste Risiken für Menschheit“KI-Entwickler bei Google warnt eindringlich vor Gefahren
Lesezeit 2 Minuten
Künstliche Intelligenz weckt die Hoffnungen auf ein neues goldenes Informations-Zeitalter, aber auch kritische Stimmen häufen sich.
Copyright: Axel Heimken/dpa
Erneut warnt ein Experte vor einer unkontrollierbaren Entwicklung besonders fortgeschrittener Künstlicher Intelligenz (KI). Geoffrey Hinton, führender KI-Entwickler beim US-Konzern Google, kündigte seinen Job und mahnte in der „New York Times“ vom Montag, die Fortschritte im Feld der KI bedeuteten „ernste Risiken für die Gesellschaft und für die Menschheit“.
Hinton wird laut Zeitung auch „Godfather“ der KI genannt. Er sagte der Zeitung, der Wettbewerb bringe die Technologieunternehmen dazu, „in einem gefährlichen Tempo“ immer neue KI zu entwickeln. Damit breiteten sich Falschinformationen aus und Arbeitsplätze gerieten in Gefahr.
Experten unterzeichnen offenen Brief zum Stopp von KI-Entwicklung
„Es ist schwierig sich vorzustellen, wie man die Bösen daran hindert, KI für böse Dinge einzusetzen“, sagte Hinton. Google und das Unternehmen OpenAI - das Startup, das den bekannten Chatbot ChatGPT entwickelt hat - begannen im vergangenen Jahr damit, lernende Systeme zu entwickeln, die dafür eine sehr viel größere Datenmenge als zuvor nutzen.
Hinton sagte der „New York Times“, diese Systeme würden aufgrund der schieren Datenmenge die menschliche Intelligenz in mancher Hinsicht in den Schatten stellen. Mit Blick auf die Arbeitsplätze sagte Hinton etwa, Künstliche Intelligenz könne die „Sklavenarbeit“ überflüssig machen. „Aber sie könnte noch viel mehr wegnehmen.“
KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können große Risiken für Gesellschaft und Menschheit bergen.
Der Zeitung zufolge kündigte der Entwickler seinen Job bei Google im vergangenen Monat. Sein Chef im Unternehmen, Jeff Dean, erklärte in einer Mitteilung an US-Medien, er danke Hinton für seine Arbeit. Dean betonte, Google habe als eines der ersten Unternehmen Leitsätze für die KI-Anwendung veröffentlicht.
Google fühle sich auch weiterhin „zu einem verantwortungsvollen Umgang mit KI verpflichtet“. Der Tech-Konzern lerne beim Verständnis der Risiken beständig dazu - und führe gleichzeitig weiterhin „kühn“ Neuerungen ein.
Experten fordern: „Unabhängige“ Überprüfung notwendig
Erst Ende März hatten der Technologie-Milliardär Elon Musk und zahlreiche Experten eine Pause bei der Entwicklung von besonders fortgeschrittener Künstlicher Intelligenz gefordert. „KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können große Risiken für Gesellschaft und Menschheit bergen“, warnten auch sie.
„Mächtige KI-Systeme sollten erst dann entwickelt werden, wenn wir zuversichtlich sind, dass ihre Auswirkungen positiv und ihre Risiken kontrollierbar sind.“ In einem offenen Brief zu einem Stopp der KI-Entwicklung verwiesen die Unterzeichner auf einen Satz von OpenAI-Gründer Sam Altman, demzufolge irgendwann eine „unabhängige“ Überprüfung notwendig sei, bevor mit dem Training neuer Systeme begonnen werde.
„Wir stimmen zu“, schreiben die Verfasser des Briefes. „Der Zeitpunkt ist jetzt.“ (afp)