Etika umělé inteligence ve vzdělávání: výzvy a příležitosti

Umělá inteligence rychle mění třídy, od platforem pro automatické hodnocení po asistenty personalizovaného učení. Tyto nástroje slibují efektivitu a přizpůsobení, zároveň ale vyvolávají naléhavé otázky o spravedlnosti, transparentnosti, soukromí a roli učitelů. Pro učitele, vedoucí pracovníky škol a tvůrce vzdělávací politiky už téma začleňování AI do vzdělávání není nepovinné: jeho pochopení je klíčovou profesní kompetencí.

Tento článek se zabývá etickými otázkami využívání AI ve školách, principy, kterými by se její zavádění mělo řídit, a příležitostmi, které může odpovědné začlenění přinést. Ať už navrhujete strategii digitálního vzdělávání, nebo se jen snažíte používat generativní AI ve výuce odpovědněji, následující části nabízejí praktický rámec podložený důkazy.

Proč je etika AI ve vzdělávání důležitá

Vzdělávání je mimořádně citlivé odvětví. Žáci jsou nezletilí, učení zahrnuje osobní údaje a rozhodnutí vzdělávacích systémů ovlivňují životní příležitosti. Když se AI dostane do tohoto prostředí, i malé zkreslení nebo chyby mohou prohloubit nerovnost, narušit důvěru nebo omezit samostatnost žáků.

Využití AI ve třídách sahá od chatbotů, kteří odpovídají na otázky žáků, po prediktivní analytiku, která upozorňuje na ohrožené žáky. Každé využití přináší přínosy i rizika. Prediktivní systém, který odhalí žáky s potížemi, může umožnit včasný zásah, ale také může žáky stigmatizovat na základě chybných dat. Etická reflexe zajišťuje, že používání těchto nástrojů vzdělávací poslání posiluje, a ne oslabuje.

Školy musí dbát i na bezpečnost: spolehlivé postupy v oblasti kyberbezpečnosti ve školách jsou nezbytné, když systémy shromažďují a zpracovávají citlivé údaje o žácích.

Je AI ve vzdělávání etická?

AI ve vzdělávání může být etická, ale jen tehdy, když se zavádí transparentně, pod lidským dohledem a s jasným pedagogickým účelem. Technologie sama je neutrální; její etická hodnota závisí na tom, jak je navržena, nasazena a sledována.

AI je ve vzdělávání považována za etickou, pokud:

• chrání data žáků a je v souladu s předpisy, jako je GDPR;
• se vyhýbá diskriminačnímu zkreslení v hodnocení nebo doporučeních;
• podporuje úsudek učitelů, místo aby ho nahrazovala;
• je transparentní v tom, jak vznikají rozhodnutí a výstupy;
• podporuje rovný přístup všech žáků bez ohledu na jejich socioekonomické zázemí.

Pokud kterákoli z těchto podmínek chybí, hrozí, že využití AI překročí etické hranice, i když nástroj působí inovativně nebo efektivně. Školy by měly zvážit, jak se principy ze zdrojů, jako je přijetí umělé inteligence ve třídě promítají do místních pravidel a praxe.

Hlavní etické otázky AI ve školách

Etické otázky vzdělávací AI se soustřeďují kolem několika opakujících se témat. Pedagogové by měli každý nástroj posoudit z těchto hledisek ještě před jeho zavedením.

1. Ochrana osobních údajů a ochrana žáků. Systémy AI ke svému fungování často potřebují velké množství dat. Školy musí zajistit, aby se informace o žácích shromažďovaly zákonně, bezpečně ukládaly a používaly jen k jasně vymezeným vzdělávacím účelům. Anonymizace, souhlas rodičů a minimální sběr dat jsou základní požadavky. Praktické příklady a rady k výběru nástrojů najdete v článcích o zavádění AI do vzdělávání.
2. Algoritmické zkreslení a spravedlnost. Modely strojového učení odrážejí data, na kterých byly natrénovány. Pokud historická data obsahují předsudky – vůči určitým jazykům, stylům učení nebo demografickým skupinám –, AI je bude reprodukovat. Ke zmírnění tohoto problému jsou nezbytné pravidelné audity a různorodé trénovací datové sady. Řešení zkreslení souvisí s širšími snahami, jako je výzva prolomit začarovaný kruh stereotypů ve školách.
3. Transparentnost a vysvětlitelnost. Učitelé i žáci by měli být schopni srozumitelně pochopit, jak nástroj AI dospívá ke svým doporučením. Neprůhledné systémy typu „černá skříňka“ podkopávají důvěru a znemožňují zpochybnit nespravedlivé výsledky. Rozvoj dovedností, jako je podpora mediální gramotnosti a kritického myšlení pomáhá třídám kriticky zkoumat výstupy algoritmů.
4. Akademická integrita. Nástup generativní AI rozmazal hranici mezi autentickou prací žáků a obsahem vytvořeným strojem. Školy potřebují jasná pravidla povoleného použití, citování a takového pojetí hodnocení, které upřednostňuje kritické myšlení před snadno reprodukovatelným výstupem. Praktické rady pro učitele nabízejí materiály jako ChatGPT pro učitele.
5. Lidský dohled. Žádná AI by neměla bez skutečného lidského posouzení s konečnou platností rozhodovat o známkách, zařazení nebo kázeňských opatřeních. Profesní úsudek učitele musí zůstat ústřední. Přístupy, které nově vymezují roli učitele – jako od výuky ke koučování– mohou pomoci zachovat lidský dohled a interpretaci.

Co je pravidlo 30% u AI?

Pravidlo 30% je neformální zásada, o které se stále častěji mluví ve vzdělávání a v tvůrčích profesích. Podle ní by AI neměla přispět víc než přibližně 30% hotové práce a zbývajících 70% by mělo pocházet z lidského přemýšlení, úprav a ověřování.

Ve vzdělávání má pravidlo 30% dva účely:

1. pro žáky: podporuje využívání AI jako pomocníka při brainstormingu nebo při psaní konceptu a zároveň zajišťuje, že většina intelektuálního úsilí zůstává na nich;
2. pro učitele: nabízí měřítko pro přípravu úkolů a výukových materiálů, u nichž AI urychlí přípravu, aniž by nahradila odbornost učitele.

Toto procento sice není přísný vědecký standard, je to však užitečné vodítko, jak zachovat autorství, hloubku učení a odpovědnost. Mělo by se kombinovat s kvalitními postupy hodnocení, jako je zavádění účinných strategií formativního hodnocení ve výuce.

Jakých je 5 principů etiky AI?

Většina mezinárodních rámců, včetně těch, které navrhují UNESCO a OECD, se shoduje na pěti základních principech etiky AI.

1. Transparentnost. Systémy AI musí být srozumitelné a jejich použití musí být jasně oznámeno.
2. Spravedlnost a nestrannost. Výstupy nesmí diskriminovat ani posilovat existující nerovnosti.
3. Neškodnost. AI nesmí způsobit fyzickou, psychickou ani sociální újmu.
4. Odpovědnost a vyvozování odpovědnosti. Když se AI používá při rozhodování, musí být jasně určeno, kdo za co odpovídá.
5. Soukromí. Osobní údaje musí být chráněny a používány jen s informovaným souhlasem.

Uplatňovat tyto principy ve školách znamená vybírat nástroje, které popisují, jak nakládají s daty, učit zaměstnance kriticky vykládat výstupy AI a zavádět pravidla školy, která staví wellbeing žáků na první místo.

Jaké jsou největší etické obavy spojené s AI?

Mezi mnoha obavami, které vyjadřují pedagogové, výzkumníci a tvůrci politik, vystupuje několik zvlášť naléhavých:

• zkreslení a diskriminace v automatizovaných rozhodnutích o přijetí, známkách nebo vzdělávacích cestách;
• porušování soukromí kvůli nadměrnému sběru dat nebo sdílení dat s třetími stranami;
• ztráta lidské aktivity a samostatnosti, kdy se žáci i učitelé stávají příliš závislými na návrzích algoritmů;
• dezinformace a halucinace velkých jazykových modelů, které se žákům předkládají jako fakta;
• prohlubování digitální propasti mezi školami, které si pokročilé nástroje AI mohou dovolit, a těmi, které ne;
• dopad na životní prostředí, protože trénování a provoz velkých modelů AI spotřebovávají značné množství energie.

Řešení těchto problémů vyžaduje kombinaci technických záruk, pravidel na úrovni instituce a – což je zásadní – vzdělávání učitelů. Iniciativy, které vysvětlují důsledky a možnosti, například kurzy o AI a IT nástrojích financované z programu Erasmus Plus, jsou dobrým výchozím bodem.

Příležitosti: jak z etické AI udělat pedagogickou výhodu

Při odpovědném přístupu nabízí AI vzdělávání pozoruhodné příležitosti.

• Adaptivní vzdělávací platformy mohou přizpůsobit obsah individuálním potřebám a pomáhat žákům s různými schopnostmi.
• AI může snížit administrativní zátěž a uvolnit učitelům ruce pro mentoring.
• Může se také stát samostatným předmětem studia a vybavit žáky digitální gramotností, kterou moderní svět vyžaduje.

Začlenění etiky do využívání AI promění potenciální riziko v příležitost k učení. Diskuse o zkreslení, soukromí a autorství se žáky rozvíjí kritické myšlení a připravuje je na život ve společnosti, kterou stále víc utvářejí algoritmy.

Jak ve školách budovat etické kompetence v oblasti AI

Aby se principy promítly do praxe, měly by vzdělávací instituce:

• zajišťovat průběžný profesní rozvoj v oblasti AI gramotnosti a etiky, například prostřednictvím programů na téma posílení role pedagogů: AI v moderní třídě;
• stanovit jasná pravidla pro povolené využívání AI žáky i zaměstnanci;
• zapojit učitele, rodiče a žáky do hodnocení nových nástrojů a vzdělávacích programů;
• sledovat výsledky a upravovat postupy na základě důkazů a průběžného zlepšování, jako je zlepšování výuky pomocí účinných strategií formativního hodnocení.

Etická AI ve vzdělávání není cíl, ale nepřetržitý proces. Díky závazku k transparentnosti, spravedlnosti a designu zaměřenému na člověka mohou školy zajistit, že se umělá inteligence stane skutečným spojencem učení – takovým, který posiluje pedagogy, chrání žáky a připravuje další generaci na stále složitější svět.