OpenAI Richtet Ausschuss für Sicherheit und Datenschutz ein
OpenAI, die renommierte Forschungsorganisation für künstliche Intelligenz, hat einen Ausschuss für Sicherheit und Datenschutz gebildet, dem CEO Sam Altman sowie die Vorstandsmitglieder Bret Taylor, Adam D'Angelo und Nicole Seligman angehören. Dieser Ausschuss wird die Ausbildung eines neuen Flaggschiff-KI-Modells überwachen, das den GPT-4 ablösen soll. Die Entscheidung, diesen Ausschuss einzurichten, kommt inmitten verstärkter Kritik an OpenAIs Engagement für KI-Sicherheit, nachdem die früheren Führungskräfte Jan Leike und Ilya Sutskever, die sich auf KI-Ausrichtung konzentriert hatten, zurückgetreten sind. Leike hat das Unternehmen öffentlich dafür kritisiert, dass es "glänzende Produkte" anstelle von Sicherheit priorisiert. Das Hauptziel des Sicherheitsausschusses ist es, die aktuellen Prozesse und Schutzmaßnahmen in den nächsten 90 Tagen zu beurteilen und zu verbessern, mit Plänen, ihre Empfehlungen und Aktualisierungen anschließend bekannt zu geben.
Wichtige Erkenntnisse
- OpenAI richtet einen Ausschuss für Sicherheit und Datenschutz ein, dem Geschäftsführer Sam Altman angehört, um wichtige Entscheidungen zu beaufsichtigen.
- Das Unternehmen hat mit dem Training eines neuen KI-Modells begonnen, um GPT-4 zu ersetzen und dabei fortschrittliche Fähigkeiten anzustreben.
- OpenAIs neuer Ausschuss ist eine Reaktion auf die verstärkte Kritik an der KI-Sicherheit und möglichen Risiken.
- Die Rücktritte von Jan Leike und Ilya Sutskever haben Bedenken an OpenAIs Engagement für KI-Ausrichtung geweckt.
- Leike kritisiert OpenAI dafür, dass es "glänzende Produkte" anstelle von Sicherheit priorisiert und das Sicherheitsteam zu wenig unterstützt.
- Der Sicherheitsausschuss konzentriert sich zunächst darauf, OpenAIs Sicherheitsprozesse in einem Zeitraum von 90 Tagen zu überprüfen und zu verbessern.
- OpenAI plant, Aktualisierungen zu den Empfehlungen des Ausschusses nach deren Präsentation im Vorstand bekannt zu geben.