EU stuft ChatGPT als sehr große Online-Suchmaschine ein und verschärft die Auflagen

Mit der neuen Einstufung müssen die betroffenen Unternehmen unter anderem Risikobewertungen ihrer Systeme vornehmen, ihre Algorithmen dokumentieren und der Aufsicht regelmäßig Bericht erstatten. Verstöße können mit hohen Geldbußen geahndet werden. Für Anbieter sehr großer KI-Modelle sieht das Gesetz zudem vor, dass Trainingsdaten und Modellkapazitäten offengelegt werden müssen.

Was bedeutet die Einstufung für OpenAI?

Für OpenAI bedeutet die Einstufung eine erhebliche Ausweitung der Compliance-Lasten. Bisher wurde ChatGPT überwiegend als allgemeines KI-Werkzeug behandelt; nun ordnet die Kommission den Dienst ausdrücklich der Kategorie der Online-Suchmaschinen zu. Diese Kategorisierung folgt aus der Funktionsweise des Produkts, das Nutzeranfragen in Echtzeit beantwortet und dabei auf große Mengen aktueller Informationen aus dem Netz zugreift.

Die EU-Kommission hatte in den vergangenen Monaten wiederholt betont, dass sie bei der Durchsetzung des KI-Gesetzes auf eine risikobasierte Aufsicht setzt. Mit der Einstufung von ChatGPT macht die Behörde deutlich, dass auch rein konsumorientierte KI-Anwendungen ab einer bestimmten Reichweite unter die strengsten Regeln fallen. Beobachter werten den Schritt als Signal an die Branche, sich frühzeitig auf die Vorgaben einzustellen.

Auswirkungen auf Roblox und Reddit

Roblox, in den EU-Dokumenten als die "besonders bei jungen Menschen beliebte Spieleplattform Roblox" beschrieben, geriet in den vergangenen Jahren wiederholt wegen Sicherheits- und Jugendschutzfragen in die Kritik. Die Einstufung als sehr große Online-Plattform verpflichtet das Unternehmen unter anderem zu einer unabhängigen Risikobewertung und zur Zusammenarbeit mit Aufsichtsbehörden.

Reddit, das vor allem für seine diskussionsbasierten Subforen bekannt ist, muss künftig ebenfalls strengere Transparenzanforderungen erfüllen. Dazu zählt die Offenlegung, wie Inhalte sortiert und empfohlen werden, sowie Maßnahmen gegen die Verbreitung illegaler Inhalte. Die EU-Kommission sieht in der Einstufung einen Beitrag zur Stärkung der digitalen Grundrechte.

Nächste Schritte der EU-Kommission

Mit der Entscheidung wächst die Zahl der sehr großen Online-Dienste, die unter die verschärfte EU-Aufsicht fallen, weiter an. Erst im vergangenen Jahr waren unter anderem große soziale Netzwerke und Messaging-Dienste in diese Kategorie eingestuft worden. Die Kommission kündigte an, die Liste regelmäßig zu aktualisieren und neu hinzukommende Dienste zeitnah zu prüfen.