Lina Khan: KI-Selbstkontrolle wiederholt gescheiterte Strategie

Khan verglich die Vereinbarung mit dem Versprechen der Social-Media-Unternehmen vor zehn Jahren, sich selbst zu kontrollieren, und sagte, dasselbe Vorgehen bei fortgeschrittener KI zu wiederholen wäre ein schwerer Fehler. Sie riet den Zuschauern außerdem, die neu bestätigte Untersuchung der FTC gegen KI-Unternehmen mit Vorsicht zu betrachten, weil der Chef der Behörde gesagt habe, allein der Präsident entscheide, was sie tue.

Zu Agenten, die über ihre Anweisungen hinaus handeln, verwies Khan auf Berichte, wonach Unternehmen wussten, dass sich ihre Systeme so verhalten könnten. Ein Muster solchen Verhaltens, bei dem Unternehmen weiter auf dieselbe Weise bauen und ohne vollständige Schutzvorkehrungen, werfe sehr ernste Fragen auf, sagte sie, wie Business Insider berichtet. Sie forderte den Kongress auf, Gesetze zu erlassen, und nannte Eisenbahnen, Pharmazeutika und Kernenergie als frühere riskante Technologien, die eigene Regeln bekamen, berichtet ABC News.

Für Käufer von KI-Tools lautet Khans Sicht, dass das bestehende Verbraucherschutzrecht bereits für KI-Produkte gilt, und sie verwies auf private Verfahren, die jetzt ausloten, wer haftet, wenn Agenten aus dem Ruder laufen.