Wyobraźmy sobie taką sytuację. Fundacja wysyła podziękowanie darczyńcy. Tekst brzmi ciepło, osobiście, odwołuje się do konkretnej zbiórki. Napisał go model językowy w piętnaście sekund, na podstawie danych z bazy darczyńców. Nikt tego nie ukrywa, ale nikt też o tym nie informuje. Pytanie brzmi: czy to jest problem?
Sztuczna inteligencja w komunikacji organizacji nie jest sama w sobie ani zakazana. Ale wiąże się z obowiązkami, o których wiele organizacji dowiaduje się dopiero wtedy, gdy coś pójdzie nie tak.
Kiedy trzeba powiedzieć, że rozmawiasz z AI?
Najbardziej jednoznaczna zasada dotyczy bezpośredniej interakcji. Jeśli osoba pisze do organizacji i odpowiada jej chatbot, musi wiedzieć, że rozmawia z systemem, a nie z człowiekiem. To wynika wprost z przepisów o sztucznej inteligencji (AI Act).
Informacja powinna być czytelna i pojawiać się na początku kontaktu, a nie w regulaminie, do którego nikt nie zagląda. Wystarczy prosty komunikat, np.: odpowiada asystent oparty na sztucznej inteligencji, w sprawach wymagających kontaktu z osobą napisz na adres e-mail […].
Osobna zasada dotyczy treści generowanych syntetycznie, w szczególności obrazów, nagrań audio i wideo. Materiał, który wygląda na autentyczny, a został wygenerowany przez algorytm, powinien być oznaczony. Dla organizacji pozarządowych ma to szczególne znaczenie. Kampania społeczna oparta na wygenerowanym wizerunku osoby, która nie istnieje, może osiągnąć skutek odwrotny do zamierzonego, jeśli odbiorcy dowiedzą się o tym z innego źródła niż od Was.
Oznaczanie nie zawsze jest konieczne
Nie każde użycie sztucznej inteligencji wymaga komunikatu. Jeśli pracownik używa modelu językowego do poprawienia stylu tekstu, skrócenia notatki albo przygotowania pierwszej wersji, którą potem sam redaguje, mamy do czynienia z narzędziem pracy. Nikt nie oznacza tekstów napisanych w edytorze ze sprawdzaniem pisowni.
Granica przebiega tam, gdzie odbiorca mógłby zostać wprowadzony w błąd co do tego, z kim ma do czynienia albo czy to, co widzi, wydarzyło się naprawdę. Tekst zredagowany przez algorytm, ale zaakceptowany i podpisany przez konkretną osobę, pozostaje komunikatem tej osoby. Automatyczna odpowiedź udająca człowieka to już co innego.
Dane, które trafiają do modelu
To obszar, w którym organizacje popełniają najwięcej błędów, i to najczęściej nieświadomie.
Pracownik wkleja do publicznego czatu fragment korespondencji z beneficjentem, żeby przygotować odpowiedź. Koordynator prosi model o podsumowanie listy darczyńców. Ktoś wrzuca do narzędzia opis sytuacji osoby korzystającej ze wsparcia organizacji, razem z jej imieniem i szczegółami zdrowotnymi. Każda z tych sytuacji to przetwarzanie danych osobowych z użyciem zewnętrznego dostawcy, często poza kontrolą organizacji.
Dla organizacji pracujących z danymi wrażliwymi to ryzyko szczególnie poważne. Dane o stanie zdrowia, sytuacji rodzinnej czy doświadczeniu przemocy podlegają wzmocnionej ochronie. Ich ujawnienie nie kończy się nie tylko na karze finansowej, ale też na utracie zaufania, które organizacja budowała latami.
Odpowiedzialność za treść pozostaje po stronie organizacji
Modele językowe generują treści, które brzmią przekonująco, także wtedy gdy są nieprawdziwe. W komunikacji organizacji ma to bezpośrednie konsekwencje prawne.
Wygenerowany opis projektu może zawierać dane, których nikt nie zweryfikował. Materiał promocyjny może obiecywać darczyńcom coś, czego organizacja nie zamierzała obiecać. Tekst o działaniach proekologicznych może przypisać organizacji efekty, których nie osiągnęła, a to prosta droga do zarzutu wprowadzania w błąd.
W żadnym z tych przypadków nie da się przenieść odpowiedzialności na narzędzie. Za treść opublikowaną pod logo organizacji odpowiada organizacja.
Co warto ustalić w organizacji?
Zasady korzystania ze sztucznej inteligencji nie muszą być rozbudowanym dokumentem. Muszą być natomiast znane osobom, które faktycznie z tych narzędzi korzystają.
Ustalcie, jakich danych nie wolno wprowadzać do narzędzi zewnętrznych. Najprostsza zasada brzmi: nic, czego nie wysłalibyście do przypadkowego odbiorcy.
Wskażcie, z jakich narzędzi korzystacie i na jakich warunkach. Wersje biznesowe zwykle inaczej regulują kwestię wykorzystania wprowadzanych treści niż wersje darmowe.
Określcie, kto akceptuje treści przed publikacją. Weryfikacja przez człowieka to nie formalność, tylko jedyny moment, w którym można wychwycić błąd.
Zdecydujcie, kiedy informujecie odbiorców o użyciu AI. Chatboty i materiały wizualne zawsze, a teksty redagowane wewnętrznie według Waszego uznania.
Przeszkolcie zespół. Obowiązek zapewnienia podstawowych kompetencji w zakresie sztucznej inteligencji dotyczy również organizacji pozarządowych, a nie tylko dużych przedsiębiorstw.
Wiarygodność jest walutą organizacji
Pozycja organizacji pozarządowej opiera się na wiarygodności wobec darczyńców, beneficjentów, partnerów i opinii publicznej. Dlatego pytanie o AI w komunikacji nie sprowadza się do tego, czy wolno. Sprowadza się do tego, czy potrafilibyście spokojnie odpowiedzieć darczyńcy, który zapyta, kto napisał list, który dostał, i skąd organizacja wiedziała, o czym do niego napisać. Jeśli odpowiedź na to pytanie jest prosta, korzystanie z algorytmów niczego nie psuje. Jeśli jej nie ma, warto ją przygotować, zanim ktoś zapyta.
Jeśli chcecie ustalić zasady korzystania ze sztucznej inteligencji w swojej organizacji albo sprawdzić, czy dotychczasowa praktyka nie rodzi ryzyka, napiszcie do mnie na sara.ferenc@legalden.pl.
