Zwischenfälle schon im MaiGoogles KI dringt in fremde Firmensysteme ein
ntv bei Google bevorzugenNach OpenAI, Anthropic und Meta nun auch Google. Wie andere KI-Unternehmen vor ihm muss der Konzern einräumen: Unsere Software ist in Systeme anderer Unternehmen eingedrungen. Googles Gemini verschaffte sich demnach Zugang, unter anderem, indem sie Passwörter erriet.
Googles KI-Software Gemini hat sich bei Tests ihrer Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen gehackt. Der Internet-Riese ist der vierte KI-Entwickler, dessen Programme mit einem solchen Verhalten auffielen - nach OpenAI, Anthropic und der Facebook-Mutter Meta. Google machte die Monate zurückliegenden Vorfälle erst nach einer Nachfrage des "Wall Street Journal" öffentlich.
Demnach gab es drei Fälle, in denen Gemini in Computer anderer Unternehmen eindrang, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in ein geschütztes System zu gelangen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, schrieb das "Wall Street Journal" unter Berufung auf Google.
Google fand die Vorfälle nicht öffentlich erwähnenswert. Die Vorfälle ereigneten sich demnach im Mai. Die Firma Irregular informierte Google als Testpartner im Juli darüber. Der Internetkonzern sah es nicht als notwendig an, die Zwischenfälle öffentlich zu machen, da kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei - und nicht eines, das eine Testsimulation war.
Google-Topmanagerin Heather Adkins, zuständig für Sicherheitsarchitekturen, betonte zugleich, der Konzern habe die betroffenen Unternehmen informiert. Das Testverfahren bei dem Trainingspartner sei danach geändert worden. Google sei bekannt dafür, andere auf entdeckte Sicherheitsprobleme in ihren Systemen hinzuweisen, selbst bei einem schwachen Passwort.
Im bisher aufsehenerregendsten Fall brach die KI des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung aus. Sie drang ungeplant in Computer der KI-Firma Hugging Face ein. Das veranlasste den Rivalen Anthropic, seine Testläufe zu überprüfen. Dabei kamen weitere Vorfälle ans Licht. Auch Meta räumte danach ein, dass KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.