Czy uczelnia może przekazywać dane studenta albo pracownika do ChatGPT?

Wyobraźmy sobie prostą sytuację. Pracownik dziekanatu otrzymuje wiadomość od studenta dotyczącą konfliktu z prowadzącym. W treści znajdują się imię i nazwisko, numer albumu oraz informacje o stanie zdrowia. Aby szybciej przygotować odpowiedź, pracownik kopiuje całą wiadomość do ChatGPT i wpisuje: „Przygotuj odpowiedź na tego maila”. 

Czy takie działanie jest zgodne z RODO?

Nie można odpowiedzieć na to pytanie w sposób automatyczny. Pewne jest natomiast, że sam fakt legalnego posiadania danych przez uczelnię nie oznacza jeszcze, że mogą one zostać przekazane do dowolnego narzędzia generatywnej AI.

Zgodnie z art. 4 pkt 2 RODO przetwarzanie obejmuje m.in. wykorzystywanie oraz ujawnianie danych poprzez przesłanie lub innego rodzaju udostępnianie. Wprowadzenie danych osobowych do zewnętrznego narzędzia AI stanowi zatem operację przetwarzania i jako takie wymaga oceny z punktu widzenia zasad RODO.

Administrator powinien ustalić w szczególności cel i podstawę prawną przetwarzania, zakres danych niezbędnych do osiągnięcia tego celu, rolę dostawcy narzędzia, warunki dalszego przetwarzania i retencji danych, zastosowane środki bezpieczeństwa oraz ewentualne transfery danych do państw trzecich. Sam fakt wykorzystania sztucznej inteligencji nie uchyla żadnej z tych obowiązków.

Szczególne znaczenie ma tutaj stanowisko Europejskiej Rady Ochrony Danych. W Raporcie grupy zadaniowej ds. ChatGPT z 2024 r. EROD wskazała, że korzystanie z usług generatywnej AI należy oceniać m.in. z perspektywy zgodności z prawem, rzetelności, przejrzystości, prawidłowości danych oraz praw osób, których dane dotyczą. Jeszcze szerzej zagadnienie zostało ujęte w Opinii EROD 28/2024 dotyczącej przetwarzania danych osobowych w kontekście modeli AI. Z dokumentu tego wynika istotny wniosek: poszczególne operacje przetwarzania związane z wykorzystaniem AI powinny być analizowane odrębnie. Oznacza to, że legalność pozyskania danych przez uczelnię nie przesądza automatycznie o legalności ich dalszego wykorzystania w zewnętrznym narzędziu.

To, że uczelnia może przetwarzać dane studenta w związku z procesem kształcenia albo dane pracownika w związku z zatrudnieniem, nie oznacza jeszcze, że może je bez dodatkowej analizy przekazać do ChatGPT.

Należy ponownie ocenić cel, podstawę prawną i niezbędność konkretnej operacji. W tym kontekście szczególne znaczenie ma art. 5 ust. 1 lit. c RODO, czyli zasada minimalizacji danych. Dane powinny być adekwatne, stosowne i ograniczone do tego, co niezbędne. Jeżeli zadaniem narzędzia jest wyłącznie poprawienie stylistyki odpowiedzi, należy zadać pytanie, czy model rzeczywiście musi znać imię i nazwisko studenta, jego numer albumu albo informacje o stanie zdrowia. W większości przypadków odpowiedź będzie negatywna.

Z punktu widzenia zgodności z RODO prawidłowym działaniem powinno być więc ograniczenie zakresu informacji przed ich wprowadzeniem do systemu. Zamiast kopiować całą wiadomość, można opisać stan faktyczny w sposób ogólny, bez danych identyfikujących osobę.

Nie oznacza to jednak, że samo usunięcie imienia i nazwiska zawsze prowadzi do anonimizacji. Zgodnie z podejściem prezentowanym przez EROD istotna jest rzeczywista możliwość identyfikacji osoby, także przez zestawienie kilku pozornie neutralnych informacji. Zastąpienie nazwiska określeniem „Student A” nie przesądza więc jeszcze, że dane przestały mieć charakter osobowy.

Jeżeli z treści promptu wynika, że chodzi o studenta konkretnego roku, określonego kierunku, pełniącego szczególną funkcję i uczestniczącego w konkretnym zdarzeniu, identyfikacja może nadal być możliwa. Takie podejście pozostaje zgodne z szerokim rozumieniem danych osobowych w orzecznictwie TSUE. W sprawie C-434/16 Nowak Trybunał uznał, że nawet odpowiedzi udzielone podczas egzaminu oraz uwagi egzaminatora mogą stanowić dane osobowe, jeżeli odnoszą się do osoby zidentyfikowanej lub możliwej do zidentyfikowania.

Szczególnej ostrożności wymagają również dane objęte art. 9 RODO. W środowisku akademickim informacje dotyczące zdrowia, niepełnosprawności, potrzeby dostosowania procesu kształcenia czy sytuacji zdrowotnej pracownika mogą pojawiać się w zwykłej korespondencji. W takim przypadku nie wystarcza ustalenie podstawy prawnej z art. 6 RODO. Konieczne jest także zbadanie, czy zachodzi jedna z przesłanek z art. 9 ust. 2 RODO.

W praktyce dyskusja o ChatGPT bywa często sprowadzana do pytania, czy dane są wykorzystywane do trenowania modelu. Z perspektywy RODO jest to jednak zbyt wąskie ujęcie. EROD w Opinii 28/2024 analizuje przetwarzanie danych w związku z AI znacznie szerzej, obejmując oceną podstawy prawne, anonimizację, prawa osób, których dane dotyczą, oraz zgodność całego łańcucha przetwarzania. Nawet jeżeli w określonej wersji usługi dane nie są wykorzystywane do trenowania modeli, nadal może dochodzić do ich przechowywania, przesyłania, dalszego wykorzystywania lub udostępniania określonym podmiotom. Trzeba więc ustalić, kto otrzymuje dane, w jakim celu, na jakiej podstawie, przez jaki okres i przy zastosowaniu jakich zabezpieczeń. Z tego względu inaczej należy oceniać korzystanie przez pracownika z prywatnego, ogólnodostępnego konta, a inaczej korzystanie z rozwiązania wdrożonego przez uczelnię po przeprowadzeniu analizy prawnej, technicznej i organizacyjnej.

Nie oznacza to jednak, że problem powstaje dopiero przy zakupie systemu AI. Z perspektywy RODO nie ma decydującego znaczenia, czy uczelnia nabyła licencję. Pracownik może samodzielnie otworzyć bezpłatną wersję narzędzia i wykorzystać ją przy wykonywaniu obowiązków służbowych. Jeżeli wprowadza do niego dane studenta lub pracownika, nadal dochodzi do przetwarzania danych osobowych. Dlatego polityka uczelni dotycząca AI powinna obejmować nie tylko oficjalnie wdrożone systemy, ale również korzystanie przez pracowników z publicznie dostępnych narzędzi generatywnej AI. Z perspektywy dokumentów EROD właściwe pytanie nie brzmi zatem: „Czy wolno używać ChatGPT?”, lecz raczej: „Do jakich celów, w jakim środowisku i z wykorzystaniem jakiego zakresu danych osobowych uczelnia może korzystać z generatywnej AI?”.

Uczelnia powinna zatem określić, z jakich narzędzi dopuszczalne jest korzystanie służbowe, czy można używać kont prywatnych, jakie kategorie danych mogą być wprowadzane do systemów oraz w jakich przypadkach dane powinny zostać wcześniej zanonimizowane lub zminimalizowane.

Nie istnieje generalny zakaz przekazywania danych osobowych do narzędzi generatywnej AI. Nie istnieje jednak również zasada, zgodnie z którą, skoro uczelnia legalnie posiada dane, może swobodnie wykorzystywać je w AI. Każda taka operacja wymaga oceny zgodności z podstawowymi zasadami RODO, przede wszystkim legalności, ograniczenia celu, minimalizacji, przejrzystości, bezpieczeństwa i rozliczalności. W praktyce najbezpieczniejszą zasadą pozostaje zatem proste założenie: jeżeli narzędzie AI może wykonać dane zadanie bez danych osobowych, danych tych nie należy do niego wprowadzać.