KI-Pionier Geoffrey Hinton verlässt Google und warnt vor ChatGPT & Co

Der in Großbritannien geborene und in Toronto lebende Informatiker und KI-Pionier Geoffrey E. Hinton ist bekannt für seine Beiträge zur Theorie künstlicher neuronaler Netze. 2012 hat er zusammen mit 2 Studierenden an der Universität Toronto die Basis dafür gelegt, die generativen KI-Systemen heutzutage zugrunde liegt.

Zuletzt hatte der 75-Jährige für Google gearbeitet, nachdem Google sein KI-Start-up DNNresearch für 44 Millionen US-Dollar aufgekauft hatte, die zu Technologien wie ChatGPT oder Bard geführt hat. Doch jetzt hat er den Job gekündigt und seine Stelle aufgegeben. Nun reiht er sich in die Liste der Informatiker*innen ein, die vor potentiellen Gefahren von KI-Systemen, wie ChatGPT oder Bard es sind, warnen, wie die New York Times (NYT) berichtet.

Bekannte Argumente, aber er weiß, wovon er spricht

Alles, was er sagt, hat man bereits von anderen gehört.  Etwa: „Es ist schwer vorstellbar, wie man Kriminelle davon abhalten können wird, KI für böse Dinge zu missbrauchen“, wie er im Gespräch mit der NYT in seiner Heimatstadt Toronto erzählt. Oder aber: „Chatsysteme wie ChatGPT werden das Internet mit Falschinformationen überfluten und die Menschen sind nicht in der Lage, zu unterscheiden, was wahr oder was falsch ist.“ Doch bei ihm, der als Pate von KI gilt, bekommen die Worte durchaus ein anderes Gewicht.

Hinton verweist auch auf andere Gefahren, von denen er dachte, sie lägen in der fernen Zukunft. Er erklärt, dass er vor 5 Jahren die Gefährlichkeit von KI noch ganz anders eingeschätzt habe. Vielleicht in 30-50 Jahren könne die KI teilweise intelligenter sein als die Menschheit und dieser dann auch gefährlich werden, dachte er damals. Doch nun habe er gesehen, wie sich KI in nur 5 Jahren weiterentwickelt habe. Es sei beängstigend, wenn er sich vorstelle, wohin die Reise in den nächsten 5 Jahren gehen könnte. „Vielleicht ist das, was in den KI-Systemen vor sich geht, bereits jetzt viel besser als das, was im menschlichen Gehirn vor sich geht“, so Hinton, der sich für eine globale KI-Regulierung ausspricht (und hinzufügt, dass es dazu niemals kommen wird).

Offenen Brief hat er nicht unterschrieben

Den offenen Brief, der vor einigen Wochen von der Organisation Future of Life in Umlauf gebracht wurde, der eine 6-monatige Pause bei der Entwicklung von KI gefordert hatte, habe er nicht unterzeichnet. Ebenso wenig wie einen anderen Brief von KI-Wissenschaftler*innen, die für der Entwicklung gewarnt haben. Das habe er nicht tun wollen, solange er noch bei Google angestellt gewesen sei, sagte er. Doch nun sei der Zeitpunkt gekommen, davor zu warnen. Er habe auch mit dem Alphabet-CEO Sundar Pinchai persönlich über dieses Thema gesprochen, bevor er gegangen sei, so Hinton. Was dieser dazu gesagt habe, verrät er der NYT aber nicht.

Bekannt ist, dass Google den Start seines ChatGPT-Konkurrenten Bard trotz Bedenken seiner Mitarbeiter*innen beschleunigt hatte. Das haben 18 ehemalige und aktuelle Mitarbeiter*innen erzählt. Intern bezeichnete man den Chatbot als "pathologischen Lügner" und "zum Fremdschämen".