Spotify benötigte ca. 5 Monate, Instagram ca. 2,5 Monate und OpenAI nur 5 Tage, um eine Million Nutzer zu erreichen. Der Anbieter des ChatBots ChatGPT legt  in seinen AGB fest, dass ein OpenAI-Account erst ab einem Mindestalter von 18 Jahren oder mit 13 Jahren (mit Zustimmung der Erziehungsberechtigten) angelegt werden kann.  Eine klare Regelung, allerdings ohne Altersverifikation. Wenn man die App im Playstore herunterladen will, liest man von einer aktuellen Freigabe ab 12 Jahren. Wir gehen davon aus, dass ein nicht unerheblicher Teil der ChatGPT-Nutzer unter 13 Jahre alt ist.

MS Copilot selbst wirbt für Copilot Microsoft 365 mit einer Altersgrenze von 18 Jahren. Im Android Playstore wird die App hingegen mit Pegi 3  (eigentlich für Spiele)  bzw. "jedes Alter"  angegeben. Im Apple Store wird sie hingegen mit 17+ gekennzeichnet.  Fragt man die App selbst nach einem Mindestalter, erhält man folgende Antwort: Copilot kann von Personen jeden Alters genutzt werden! Es gibt keine spezifische Altersgrenze für die Nutzung von Copilot. Malter365.de hat in diesem Artikel weiterführende Informationen zum Thema Copilot in Schulen.

Poe, ein Portal zur Sammlung von KI-Anwendungen, darunter ChatGPT, gibt ebenfalls Pegi 3 bzw. "jedes Alter" im Playstore für seine App an. Für eine Anwendung, die die Dienste von CHatGPT (Altersbeschränkung 13 Jahre) anbietet und nutzt. Im Apple Store wird hingegen 17+ vermerkt. In den hauseigenen Nutzungsbedingungen von Poe ist zu lesen: Die Verwendung von Poe durch Personen unter 13 Jahren ist nicht zulässig.

Fazit: Einzig ChatGPT hat unseren kleinen Test von einigen KI-Anwendungen bestanden. Bravo junger Chatbot! Das Mindestalter ist hier genau definiert: Ab 13 Jahren darf es (mit Zustimmung der Erziehungsberechtigten) genutzt werden.

Bei den anderen KI-Anwendungen gibt es widersprüchliche Aussagen ohne Ende. Welch großer Altersunterschied für ein und dieselbe App und deren Inhalte. Wahnsinn....

Was sagt die österreichische Judikatur dazu? Wir haben dazu einige Ansätze und Diskussionen gefunden, aber keine konkreten Aussagen oder gar konkrete Rechtsprechung.

Die UN-Kulturorganisation Unesco hat einen Leitfaden für den Einsatz von KI-Anwendungen in Schulen herausgegeben. Darin fordert sie eine Altersgrenze von mindestens 13 Jahren in Schulen. Außerdem fordert sie eine allgemein gültige Regelung zum Schutz von Daten und Privatsphäre. Hintergrund ist, dass Jugendliche unter diesem Alter auch Social Media Anwendungen nicht eigenständig (ohne Zustimmung der Eltern) nutzen dürfen. Grundlage ist der Children’s Online Privacy Protection Act der USA (1998).

Irgendwie alles ohne offensichtliches System - ohne einheitliche aussagekräftige Mindestaltersangaben. Im Bereich der Social Media gibt es sehr genaue Altersangaben, in Österreich gilt generell die Vollendung des 14. Lebensjahres. Die Einhaltung und Durchsetzung dieser Altersgrenze  in dem KI Bereich ist besonders schwierig. Trotz intensiver Recherche haben wir bis jetzt keine aussagekräftige Antwort erhalten.

Auch wenn die jeweilige Software DSGVO-konform ist und keine Registrierung - keine Anmeldung für die Nutzung erfordert, setzt dies unseres Erachtens die Mindestaltersgrenze (die oft nicht angegeben ist) nicht außer Kraft. Auch Schullösungen (vgl.  Fobizz.de, schulki.de,  edubot.de oder dieschulapp.de) interpretieren nicht konkrete Regelungen - Angaben zum Mindestalter konnten wir auch keine konkreten Angaben  finden.

Auf unsere schriftliche Anfrage per E-Mail erhielten wir folgende  Antworten:

....da die User ChatGPT über eine besondere Variante innerhalb der SchulApp nutzen, würde hier das Alter für die Nutzung der SchulApp greifen. ChatGPT kann innerhalb der SchulApp Datenschutzkonform ohne jegliche Registrierung genutzt werden, also auch keine Registrierung an der SchulApp durch Schüler nötig. Da ich kein Anwalt bin, kann ich Ihnen auch natürlich keine Rechtsauskunft geben. Das ist unser aber unser Verständnis für den Einsatz von ChatGPT. Eventuell hilft es ja, wenn Sie eine gesonderte Vereinbarung mit den Erziehungsberechtigten erzielen.....

.....wir haben GPT4 (und 3.5) via Azure angebunden in allen Bereichen, wo SuS mit der KI arbeiten. Via Azure gibt es das AGB Problem nicht. Dh. hier können auch jüngere Kinder mit der KI arbeiten.....muss das aber immer begleitet und angeleitet durch die Lehrkraft stattfinden. Als Lehrer kann man die KI jederzeit aktiv und inaktiv schalten. Wie empfehlen, dass Kinder unter 13 Jahren die KI zusammen mit Erwachsenen nutzen......

...unsere Nutzer sind Lehrer, die sind meist volljährig. Mir ist bisher kein Gesetz bekannt, das eine Altersbeschränkung für die Weitergabe des Accounts an Kinder regelt. Generell passiert das bei uns - im Gegensatz zu openai - ja auch unter Aufsicht eines Lehrers......

Der Ruf nach schärferen Gesetzen, besseren Möglichkeiten der Altersverifikation (Elektronische Identität (eID) & EiDAS) und stärkeren Inhaltskontrollen wird immer lauter. Die nahe Zukunft wird es zeigen, wir bleiben dran.

Der EU AI Act ist ein wegweisendes Regelwerk zur Regulierung künstlicher Intelligenz (KI), das die EU als Vorreiter in der ethischen Nutzung von KI positioniert. Es legt verbindliche Anforderungen fest, um das Gleichgewicht zwischen Innovation und dem Schutz von Grundrechten zu wahren. KI-Regulierung ist entscheidend, da unkontrollierte Entwicklungen diverse Risiken wie Arbeitsplatzverluste, Deepfakes, Datenschutzverletzungen und sozioökonomische Ungleichheiten mit sich bringen können.

Der EU AI Act unterscheidet KI-Risiken in vier Kategorien: unannehmbares, hohes, begrenztes und minimales Risiko. Unternehmen müssen sich auf neue Anforderungen einstellen, was zusätzliche Investitionen in Compliance, Datenschutz und Sicherheit bedeuten kann. Entwickler müssen ethische Prinzipien von Anfang an integrieren, was Vertrauen fördern und als Wettbewerbsvorteil dienen kann.

Das Gesetz setzt einen globalen Standard und könnte andere Länder inspirieren. Nach einer vorläufigen Einigung im Dezember 2023 und einstimmiger Verabschiedung durch EU-Mitgliedsstaaten im Februar 2024, erfordert der EU AI Act noch die Zustimmung des Europäischen Parlaments im April oder Mai 2024, bevor er in Kraft treten kann. Die früheste Anwendungszeit könnte die zweite Hälfte des Jahres 2024 sein. Insgesamt markiert der EU AI Act einen wichtigen Schritt in der KI-Regulierung, dessen Effektivität und globale Reaktionen in den nächsten Jahren beobachtet werden.

Webtipp:

klicksafe.de - ChatGPT in der Schule – wie damit umgehen?

heise.de - ChatGPT erst ab 13? "Die Realität sieht anders aus"