![[Externer Link] Webseite - Autonome Provinz Bozen - Südtirol](/css/img/APBZ_Logo_Website_DE_IT_LAD.svg){kind=logo}
Künstliche Intelligenz in Schule und Unterricht
Fragen und Antworten
Der Bereich der Künstlichen Intelligenz (KI) hat letzthin große öffentliche Aufmerksamkeit erhalten. Auch im Bildungsbereich bietet KI vielfältige Möglichkeiten, Lehrende und Lernende zu unterstützen und Lernprozesse zu optimieren. KI-basierte Technologien können Lehrpersonen in ihrer Bildungsarbeit unterstützen und Schülerinnen und Schülern Hilfestellungen für neue Formen digitalisierten Lernens anbieten. Der folgende Leitfaden im FAQ-Format soll Antworten auf grundlegende Fragen geben und Einblicke in die Potentiale und Nutzungsmöglichkeiten von KI im Schulbereich ermöglichen. Auch bestehende Herausforderungen und Risiken werden thematisiert, wie z.B. Fragen zur Vertrauenswürdigkeit von KI-Systemen, zum Datenschutz und zur Transparenz.
Letzte Aktualisierung: November 2024
Zum Inhalt dieser Seite
- 1 Was ist Künstliche Intelligenz (KI)?
- 2 Warum ist das Thema KI derzeit in aller Munde?
- 3 Was ist ChatGPT?
- 4 Wie vertrauenswürdig sind KI-Systeme?
- 5 Welche Chancen und Risiken sind mit KI im Schulbereich verbunden?
- 6 Wie können KI-Tools zu einem inklusiven Unterricht beitragen?
- 7 Welchen Nutzen hat der Einsatz von KI für mich als Lehrperson?
- 8 Welchen Nutzen hat der Einsatz von KI für Schülerinnen und Schüler?
- 9 Was müssen Schülerinnen und Schüler jetzt lernen?
- 10 Welche Regeln braucht es für die Arbeit mit KI-Tools im Schulkontext?
- 11 Wie erkenne ich, ob ein Text eines Schülers bzw. einer Schülerin mit einem KI-Tool generiert wurde?
- 12 Wie kann ich als Lehrperson Aufgaben stellen, die weniger anfällig dafür sind, ausschließlich von einer KI gelöst zu werden?
- 13 Welche datenschutzrechtlichen Aspekte sind bei der Nutzung von KI im Schulbereich zu beachten?
- 14 Welche urheberrechtlichen Aspekte sind bei der Nutzung von KI im Schulbereich zu beachten?
- 15 Darf ich als Lehrperson KI im Unterricht verwenden?
1 Was ist Künstliche Intelligenz (KI)?
Der Begriff Künstliche Intelligenz, kurz KI (englisch: Artificial Intelligence, AI), bezieht sich auf Technologien, die Maschinen die Fähigkeit verleihen, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern. Ein wesentlicher Teilaspekt künstlicher Intelligenz ist das maschinelle Lernen. Hierbei werden Maschinen befähigt, aufgrund vorhandener Informationen Lernprozesse zu durchlaufen, als deren Folge Texte, gesprochene Sprache, Bilder, Videos, Musik o.Ä. erzeugt werden. Die Maschinen werden durch das maschinelle Lernen zu einem kreativen Prozess befähigt. Maschinelles Lernen inkludiert auch die Fähigkeiten zur Verarbeitung natürlicher Sprache, zur Mustererkennung und zum Treffen von Vorhersagen.
Technologien mit künstlicher Intelligenz werden heute in vielen Bereich bereits eingesetzt. Dazu gehören das Gesundheitswesen (z.B. Unterstützung in der Diagnostik), das Finanzwesen (z.B. Vorhersage von Kursentwicklungen), die Automobilindustrie (z.B. Roboter-unterstützte Fertigung), der Dienstleistungssektor (z.B. automatisierte Prozesse in Call-Centern) und viele andere mehr. Es wird erwartet, dass Künstliche Intelligenz die Arbeitswelt in vielen Bereichen grundlegend verändern wird, aber auch im privaten Umfeld immer wichtiger wird.
2 Warum ist das Thema KI derzeit in aller Munde?
Das Unternehmen OpenAI hat die KI-Software ChatGPT am 30. November 2022 in der Version GPT-3.5 kostenlos für die Öffentlichkeit freigegeben. Obwohl bereits in den vergangenen Jahren zahlreiche Anwendungen im KI-Bereich verfügbar waren, erhielten durch die niederschwellige Verfügbarkeit und die einfache Anwendungsmöglichkeit nun erstmals in kurzer Zeit sehr viele Menschen direkten Zugang zu einer KI-Anwendung und konnten diese ausprobieren und auch effektiv verwenden. Darüber hinaus führte die Freigabe von ChatGPT GPT-3.5 auch zu einer Innovationswelle in der Entwicklung von KI-gesteuerten Anwendungen. Entwickler aus verschiedenen Bereichen begannen, die Software in ihre Projekte zu integrieren, und entwickelten so neue Anwendungslösungen. Sämtliche KI-basierte Anwendungen werden als KI-Tools bezeichnet.
Auch in den Medien wurde ChatGPT und davon ausgehend Künstliche Intelligenz in der Folge breit thematisiert, wodurch die öffentliche Aufmerksamkeit am Thema enorm zugenommen hat. Auch ist eine breite Diskussion über mögliche Anwendungsfelder und damit zusammenhängende Chancen und Risiken entstanden. Es entwickelten sich vermehrt Diskussionen über die Verantwortung von Unternehmen und Entwicklern um sicherzustellen, dass KI-Systeme ethisch einwandfrei und vor Missbrauch geschützt sind.
3 Was ist ChatGPT?
ChatGPT ist ein KI-Tool, das zur Kategorie der LLM (Large Language Models) gehört. Diese sind in der Lage, auf Texteingaben zu reagieren und neue Texte zu generieren (textgenerierende KI-Systeme). Sie können Anweisungen und Fragen in natürlicher Sprache verstehen und sinngemäß darauf antworten. Die dadurch entstehende Interaktion Mensch-Maschine ähnelt einer zwischenmenschlichen Konversation im Chat-Format, also einem textbasierten Dialogsystem. Derartige Systeme werden daher häufig auch als ChatBots bezeichnet. Textgenerierende KI-Systeme wie ChatGPT können Texte erstellen, bearbeiten und bewerten. ChatGPT ist zudem in der Lage, Code in verschiedenen Programmiersprachen zu erstellen.
Die von ChatGPT generierten Texte basieren auf einer Vielzahl von Informationsquellen, auf welche die Software zugreifen kann. Umfang und Aktualität dieser Daten bestimmen somit direkt die Qualität der von der Software generierten Texte.
Die KI-Software ChatGPT wurde vom Unternehmen OpenAI entwickelt. Nach verschiedenen Vorgängerversionen wurde ChatGPT im Herbst 2022 kostenlos zur allgemeinen Verwendung freigegeben. Mit der Veröffentlichung der Version GPT-4 im März 2023 entfernte sich OpenAI vom Freeware-Konzept (kostenfreie Nutzung der Software), wodurch die Nutzung der Version GPT-4 kostenpflichtig wurde; die Version 3.5 bleibt weiterhin kostenfrei nutzbar.
Neben ChatGPT gibt es mittlerweile eine Reihe anderer ChatBots, die ähnliche Funktionalitäten aufweisen und teilweise ebenfalls kostenfrei zugänglich sind, z.B. Microsoft Copilot/Bing Chat, Jasper, Chatsonic, Neuroflash, Google Bard etc.
4 Wie vertrauenswürdig sind KI-Systeme?
Die Qualität der von KI-Systemen generierten Produkte, seien es Texte, Bilder oder andere Inhalte, wird von verschiedenen Faktoren beeinflusst. Ausschlaggebend sind einerseits die der Software zur Verfügung stehenden Datenquellen (Umfang, Qualität, Aktualität), andererseits die von der KI-Software verwendeten Algorithmen. Zudem ist die Formulierung der Benutzereingabe (sog. „Prompt“) entscheidend für die Qualität des Outputs. Der Entwicklungsstand moderner KI-Systeme ist mittlerweile so weit fortgeschritten, dass die Ergebnisse den gestellten Anforderungen meistens gut entsprechen. Jedoch können KI-Systeme vereinzelt auch missverständliche oder inhaltlich fehlerhafte bzw. irreführende Informationen erzeugen. In diesem Zusammenhang wird oft auch von „Halluzinationen“ gesprochen. KI-Tools können zudem bestehende Vorurteile und Diskriminierung verstärken, insbesondere, wenn sie mit unzureichenden Daten trainiert werden. Zudem kann die Vertrauenswürdigkeit von System zu System erheblich variieren. Daher ist beim Umgang mit KI-Ergebnissen grundsätzlich Vorsicht geboten. Ein unreflektiertes Übernehmen der KI-Outputs kann zu fehlerhaften Ergebnissen führen oder zu Produkten, die nicht den Erwartungen entsprechen. Daher ist eine sorgfältige Überprüfung und gegebenenfalls Korrektur des Outputs dringend zu empfehlen. Dies gilt vor allem für KI-Tools wie Chat-GPT, welche ausschließlich Texte, aber kein Wissen generieren.
5 Welche Chancen und Risiken sind mit KI im Schulbereich verbunden?
KI betrifft als Thema auch den Schulbereich und kann sowohl Chancen und als auch Risiken für das Lehren und Lernen mit sich bringen.
KI-Tools bieten Chancen in Bezug auf die Individualisierung des Unterrichts. So können KI-Tools eine Hilfe sein, den Unterricht auf die individuellen Bedürfnisse und das Lernverhalten der Schülerinnen und Schüler auszurichten. Darüber hinaus können Lehrpersonen mithilfe von KI-Tools administrative und bestimmte wiederkehrende Aufgaben automatisieren, wodurch mehr Zeit für die eigentliche pädagogische Arbeit bleibt (siehe dazu Fragen 6, 7).
Der Einsatz von KI-Tools im Schulbereich ist auch mit Risiken verbunden. So ist es in der Regel schwer nachzuvollziehen, wie diese zu bestimmten Ergebnissen oder Empfehlungen gelangen (siehe dazu auch Frage 4). Außerdem kann das Sammeln und Speichern von Schülerdaten durch KI-Tools zu Datenschutzrisiken führen (siehe dazu auch Frage 13).
Die sinnvolle Integration von KI in den Schulbereich erfordert daher eine sorgfältige Planung und klare Richtlinien.
6 Wie können KI-Tools zu einem inklusiven Unterricht beitragen?
KI-Tools können Lehrpersonen dabei unterstützen, Unterrichtsmaterialien mit relativ geringem Arbeitsaufwand so anzupassen, dass damit sowohl Schülerinnen und Schüler mit besonderen Bildungsbedürfnissen als auch solche mit besonderen Begabungen unterstützt und gefördert werden können. Dies umfasst beispielsweise die Anpassung von Texten, um sie leichter verständlich zu machen, oder die Bereitstellung von zusätzlichen Materialien, Erklärungen, Beispielen und multimedialen Inhalten.
KI-Tools können durch Sprach- und Textübersetzungen sowie andere Assistenzfunktionen (Spracheingabe, Sprachausgabe, plastischer Reader) auch die Kommunikation erleichtern.
7 Welchen Nutzen hat der Einsatz von KI für mich als Lehrperson?
Lehrpersonen können KI auf vielfältige Weise nutzen. Hier einige Möglichkeiten:
Unterrichtsvorbereitung: Lehrpersonen können KI-Tools zur Planung und Vorbereitung des Unterrichts nutzen. Diese Tools können bei der Strukturierung des Unterrichts helfen und als Inspirationsquelle dienen. Außerdem können sie genutzt werden, um Aufgaben und Materialien zu erstellen.
Individualisierung des Unterrichts: KI-Tools können dazu verwendet werden, den Lernbedarf der einzelnen Schülerinnen und Schüler individuell zu ermitteln und Materialien an deren Bedürfnisse anzupassen.
Formatives Assessment: KI-Tools können beim Sammeln und Auswerten von Informationen über den Lernfortschritt helfen.
Unterstützung bei administrativen Aufgaben: Lehrpersonen können KI-Tools verwenden, um administrative Aufgaben effizienter zu gestalten.
Bei der Nutzung von KI-Tools sind die Datenschutzbestimmungen einzuhalten (siehe Fragen 13 und 15).
8 Welchen Nutzen hat der Einsatz von KI für Schülerinnen und Schüler?
Es gibt eine Vielzahl von KI-Tools, die Schülerinnen und Schüler nutzen können, um ihr Lernen zu unterstützen und ihre Fähigkeiten in verschiedenen Bereichen zu verbessern.
Einige dieser Tools bieten personalisierte Lernmaterialien, Übungen und Unterstützung in verschiedenen Bereichen an. Andere helfen dabei, die Schreibkompetenz zu verbessern, Sprachen zu erlernen oder unterstützen beim Lösen mathematischer Probleme.
KI-Tools können Schülerinnen und Schüler wie persönliche Lernbuddys beim Lernen unterstützen.
9 Was müssen Schülerinnen und Schüler jetzt lernen?
Der Beschluss der Landesregierung Nr. 244 vom 07.04.2020 regelt die Förderung der Kompetenzen des fächerübergreifenden Lernbereiches „Gesellschaftliche Bildung“ und ist Grundlage für das Schulcurriculum und Grundlage für die Festlegung der kompetenzorientierten Bildungsziele im Bereich „Digitalisierung“. Die dort formulierten Kompetenzziele sind auch wesentlich für einen verantwortungsvollen und reflektierten Umgang mit KI.
Schülerinnen und Schüler sollen lernen, wie KI-Tools sinnvoll, korrekt und sicher eingesetzt werden können; dafür benötigen sie Unterstützung. Im Unterricht soll auch thematisiert werden, wie solche Systeme im Prinzip funktionieren (--> Algorithmus) und welche Risiken und Gefahren beim Umgang mit KI-Tools bestehen (--> Datenschutz, Urheberrecht, Faktencheck, Deepfakes, ethische Aspekte).
Schülerinnen und Schüler, die keine Möglichkeiten haben, KI-Tools zu nutzen bzw. den sinnvollen Umgang damit zu lernen, könnten benachteiligt sein; hier hat die Schule die Aufgabe, für Bildungsgerechtigkeit zu sorgen.
10 Welche Regeln braucht es für die Arbeit mit KI-Tools im Schulkontext?
Es ist sinnvoll, für die Arbeit mit KI-Tools im Schulkontext Regeln zu fixieren. So kann festgelegt werden, dass die Lehrperson entscheidet, ob und wann ein bestimmtes KI-Tool für eine Aufgabe benutzt werden darf.
Wenn Schülerinnen und Schüler KI-Tools nutzen, müssen sie diese Nutzung selbstverständlich angeben und dabei den Namen des KI-Tools (+ evtl. den Link), das Datum der Verwendung, den konkreten Prompt und evtl. einen Screenshot der Antworten des KI-Tools angeben.
Um Transparenz zu schaffen, sollten auch die Erziehungsverantwortlichen über die Art und Weise informiert werden, wie KI-Tools im Unterricht bzw. auch beim individuellen Lernen genutzt werden.
11 Wie erkenne ich, ob ein Text eines Schülers bzw. einer Schülerin mit einem KI-Tool generiert wurde?
Texte, die mit Hilfe von KI-Tools erstellt wurden, sind schwer als solche zu erkennen, da nicht immer der gleiche Text erzeugt wird.
Es handelt sich dabei auch nicht um Plagiate im eigentlichen Sinne.
Trotzdem kann es als Täuschung über die Urheberschaft angesehen werden, wenn nicht deutlich gemacht wird, dass der Text oder Teile davon mit Hilfe eines KI-Tools erstellt wurden (vgl. Frage 14).
Es ist derzeit unklar, ob es technisch möglich ist, eine zuverlässige Software zu entwickeln, die KI-generierte Texte erkennen kann.
Um unangenehme Situationen für Lehrpersonen, Schülerinnen und Schüler zu vermeiden, sollten für die Arbeit mit KI-Tools Regeln fixiert werden (vgl. Frage 10). Zudem sollten Aufgaben von vornherein so gestaltet werden, dass sie nicht ausschließlich mit Hilfe von KI-Tools gelöst werden können (vgl. Frage 12).
12 Wie kann ich als Lehrperson Aufgaben stellen, die weniger anfällig dafür sind, ausschließlich von einer KI gelöst zu werden?
Ob und wann ein bestimmtes KI-Tool für eine Aufgabe im Schulkontext benutzt wird, liegt im Ermessen der Lehrperson (vgl. Frage 10). Falls die Nutzung von KI-Tools für die Bearbeitung einer Aufgabe vorgesehen ist, sollte diese von vornherein so gestaltet werden, dass sie nicht ausschließlich mit Hilfe von KI gelöst werden kann.
Ein Format- oder Medienwechsel in der Aufgabe kann beispielsweise dazu führen, dass Schülerinnen und Schüler ihre Erkenntnisse selbstständig umsetzen. So kann die KI zwar Ideen für die Erstellung eines Lernproduktes geben, die konkrete Umsetzung und damit die Auseinandersetzung mit den Inhalten muss jedoch durch die Schülerinnen und Schüler selbst erfolgen.
Bei Projekten oder Facharbeiten kann ein individueller Forschungsauftrag einbezogen werden, der auf die konkrete Unterrichtssituation bezogen ist. Zudem spielt die Begleitung des Arbeitsprozesses durch die Lehrperson eine wesentliche Rolle. Im Austausch mit den Schülerinnen und Schülern lässt sich nämlich erkennen, inwiefern sie sich mit dem Inhalt auseinandergesetzt haben.
13 Welche datenschutzrechtlichen Aspekte sind bei der Nutzung von KI im Schulbereich zu beachten?
Bei KI -Tools, die keine Anmeldung (z.B. durch Angabe des Namens oder der E-Mail-Adresse) erfordern und die von Schülerinnen und Schülern in den Räumlichkeiten der Schule verwendet werden, finden die datenschutzrechtlichen Bestimmungen keine Anwendung, da keine personenbezogenen Daten verarbeitet werden. Aus den Webseiten von Microsoft geht hervor, dass Microsoft Copilot für Microsoft 365 (welches über die Snets-Accounts zugänglich ist) die bestehenden Datenschutz- und Sicherheitsbestimmungen (einschließlich der DSGVO und der Datenbegrenzung der Europäischen Union) gegenüber Microsoft 365 – Kunden erfüllt. Die Verwendung von Microsoft Copilot von Seiten der Schülerinnen und Schüler ist grundsätzlich möglich. In diesem Zusammenhang sei auf folgende Aspekte zum Datenschutz bei der Verwendung von Copilot mit Arbeits- oder Schulkonten verwiesen: https://learn.microsoft.com/de-de/copilot/microsoft-365/microsoft-365-copilot-privacy.
Bei KI-Tools, die Schülerkonten erfordern und personenbezogene Daten verarbeiten, müssen die Datenschutzvorschriften befolgt werden. Auch wenn Schülerinnen oder Schüler selbst Konten erstellen, sollte die Schule als verantwortliche Stelle sicherstellen, dass die Nutzung datenschutzkonform ist, sofern die Nutzung im schulischen Kontext erfolgt. Die Schule sollte bei der Auswahl anmeldepflichtiger KI -Tools (gleichermaßen wie bei der Nutzung/Verwendung allfälliger Online-Plattformen oder Apps) Folgendes überprüfen:
- Grundsatz der Datenminimierung: Ist es erforderlich, ein KI-Tool zu verwenden, das personenbezogene Daten der Schülerinnen und Schüler verarbeitet? Können die Zwecke/Ziele, die durch den Einsatz des KI-Tools erzielt werden, auch mittels eines KI-Tools erreicht werden, das keine personenbezogenen Daten verarbeitet?
- Welche personenbezogenen Daten werden verarbeitet? Die Schule sollte prüfen, ob für die Anmeldung nur die zwingend erforderlichen Kontaktdaten wie z.B. Name, Nachname und E-Mail-Adresse einzugeben sind oder ob zahlreiche, nicht für den Zweck der Anmeldung erforderliche, weitere Informationen/Daten eingeholt werden.
- Verfügt die Anwendung über eine ausreichend klare Datenschutzerklärung, welche die Schule über alle erforderlichen Informationen bzgl. der Verarbeitung der personenbezogenen Daten der Schülerinnen und Schüler informiert, wie z.B., ob diese Daten anderen Personen mitgeteilt bzw. ob sie verbreitet werden, wie lange und wo die Daten gespeichert werden usw.?
- Handelt es sich um ein vertrauenswürdiges KI-Tool, welches nicht auf geschützte Daten der Schulen zugreift und welches durch angemessene technische und organisatorische Maßnahmen die Daten der Nutzerinnen und Nutzer schützt?
- Ist für die Verwendung des KI-Tools eine Altersgrenze vorgesehen? Einige KI-Tools sind nämlich nur volljährigen Personen vorbehalten. Falls vorgesehen ist, dass unter einer bestimmten Altersgrenze eine Einverständniserklärung der Erziehungsverantwortlichen eingeholt werden muss, so ist dies zu beachten.
14 Welche urheberrechtlichen Aspekte sind bei der Nutzung von KI im Schulbereich zu beachten?
In Bezug auf das Urheberrecht (Gesetz Nr. 633/1941) gilt es, zwei Aspekte zu unterscheiden:
1) Werden durch die Verwendung eines KI-Tools, mit dem Werke (Texte, Bilder etc.) generiert werden, die urheberechtlichen Bestimmungen verletzt?
Aufgrund fehlender Bestimmungen/Rechtsprechung kann diese Frage nicht eindeutig beantwortet werden. Da KI-Tools die Texte bzw. Werke mit Hilfe von Algorithmen generieren, kann jedoch davon ausgegangen werden, dass dabei keine urheberrechtlichen Bestimmungen verletzt werden. Dies ist auch deshalb so, da KI-Tools ja ein völlig neues Werk generieren.
2) Sind die mit KI generierten Werke urheberrechtlich geschützt?
Auch diese Frage lässt sich in Ermangelung einer ausdrücklichen Bestimmung nicht eindeutig beantworten. Aufgrund einer Auslegung des Kassationsgerichtshofes kann jedoch davon ausgegangen werden, dass die Nutzerinnen und Nutzer des KI-Tools in Bezug auf das generierte Werk einen urheberechtlichen Schutz genießen, wenn der Einfluss des Nutzers/der Nutzerin so bestimmend ist, dass ihm/ihr das Ergebnis des Gestaltungsprozesses noch zugerechnet werden kann. Das ist jedoch nur dann der Fall, wenn der „menschliche Anteil“ so hoch ist, dass der Einsatz des KI-Tools eine eher untergeordnete Bedeutung hat. In jenen Fällen, in denen KI-Werke nicht eindeutig einem Menschen zugeordnet werden können, sollten – um eventuellen Plagiatsanschuldigungen vorzubeugen – die Werke beispielsweise mit der folgenden „Namensnennung“ zitiert werden:
„Bei der Herstellung dieses Textes [oder wahlweise Bildes oder des Programmiercodes etc.] wurde X [=Name der KI-gestützten Anwendung] eingesetzt. Mit folgenden Prompts [= Anweisungen oder Fragen an die KI] habe ich die KI gesteuert: 1., 2.”
15 Darf ich als Lehrperson KI im Unterricht verwenden?
Die Verwendung von KI im Unterricht ist normativ nicht geregelt. Aus rechtlicher Sicht stellt die Verwendung von KI im Unterricht kein grundsätzliches Problem dar, da dies in den Bereich der didaktischen Autonomie fällt, die bekanntermaßen u.a. die freie und planmäßige Auswahl von Unterrichtsverfahren und Medien betrifft. Im Idealfall sollte sich auch das Lehrerkollegium mit der Verwendung von KI im Unterricht befassen und die getroffenen Entscheidungen in den Dreijahresplan des Bildungsangebotes aufnehmen.
Beim Einsatz von KI-Tools ist die Angabe personenbezogener Daten zu vermeiden. So dürfen beispielsweise keine personenbezogenen Daten der Schülerinnen und Schüler in den Prompt eingegeben werden.