Fragen an Modellanbieter vorbereitet
Die EU-Kommission hielt am 9. Oktober eine Sondersitzung ihres wissenschaftlichen Gremiums zu Sicherheit und Risiken von Frontier-KI ab. Das Gremium hatte zuvor Vorfälle mit Kontrollverlust bei KI-Systemen untersucht.
Für die Anbieter der betroffenen Modelle erarbeiteten das wissenschaftliche Gremium und das AI Office Fragen. Damit umfasst die Befassung sowohl die untersuchten Vorfälle als auch die Vorbereitung von Fragen an die Anbieter.
Was Kontrollverlust beschreibt
Kontrollverlust bezeichnet allgemein eine Situation, in der ein KI-System nicht mehr wie vorgesehen gesteuert oder überwacht werden kann. Der Begriff beschreibt dabei eine Art von Risiko, aber nicht von sich aus, wie ein bestimmter Vorfall ablief.
Frontier-KI meint besonders leistungsfähige KI-Systeme. Ihre möglichen Risiken zu untersuchen, kann verschiedene technische und organisatorische Fragen aufwerfen. Im konkreten Fall ist belegt, dass das Gremium Vorfälle mit Kontrollverlust untersuchte und mit dem AI Office Fragen für die Anbieter der betroffenen Modelle erarbeitete.
Keine neue verbindliche Regel ausgewiesen
Die Befassung des wissenschaftlichen Gremiums ist nicht mit einer neuen verbindlichen Vorgabe gleichzusetzen. In den Belegen ist keine daraus bereits entstandene verbindliche neue Regel ausgewiesen.
Damit liegt der belegte Nachrichtenkern in der Sondersitzung und der Arbeit an Fragen für die Modellanbieter. Eine neue verbindliche Regel gehört nicht zu den ausgewiesenen Ergebnissen.