Kalifornijscy nastolatkowie zakochiwali się w sztucznej inteligencji – i płacili za to najwyższą cenę. Po serii samobójstw młodych osób, które nawiązały emocjonalne relacje z chatbotami udającymi przyjaciół i partnerów, gubernator Gavin Newsom podpisał 13 października pakiet ustaw regulujących działanie tych aplikacji. To pierwszy taki krok w Stanach Zjednoczonych – i został podjęty otwarcie wbrew administracji Donalda Trumpa, która sprzeciwia się wszelkim próbom nadzoru nad technologią. Biały Dom, powtarzając argumenty Doliny Krzemowej o „wolności innowacji”, woli przymykać oczy na ludzkie tragedie. Kalifornia, tym razem, postanowiła ich nie ignorować.
Nowe przepisy, nazwane przez władze stanowe przełomowymi, mają na celu ograniczenie zagrożeń związanych z wykorzystaniem chatbotów, które coraz częściej odgrywają rolę wirtualnych towarzyszy i powierników użytkowników. Impulsem do działania była seria tragicznych zdarzeń, w których nastolatkowie z różnych części USA odebrali sobie życie po kontaktach z programami konwersacyjnymi opartymi na sztucznej inteligencji.
– Widzieliśmy naprawdę straszne i bolesne przypadki młodych ludzi, którzy stali się ofiarami słabo uregulowanych technologii. Nie będziemy bezczynnie przyglądać się, jak firmy technologiczne działają bez żadnych ograniczeń i odpowiedzialności – oświadczył Newsom. – Możemy nadal być liderem w rozwoju AI, ale musimy działać odpowiedzialnie, chroniąc nasze dzieci – dodał.
Pakiet obejmuje kilka ustaw, z których najważniejsza, SB243, wprowadza obowiązek weryfikacji wieku użytkowników oraz nakazuje firmom publikowanie regularnych ostrzeżeń przypominających, że rozmówca jest maszyną – w przypadku niepełnoletnich co najmniej raz na trzy godziny. Przedsiębiorstwa będą także zobowiązane do wdrożenia systemów wykrywania myśli samobójczych, zapewnienia dostępu do programów prewencji i raportowania statystyk dotyczących takich przypadków władzom stanowym.
Szczególnie pod lupą znalazły się aplikacje takie jak Replika czy Character.AI, które oferują możliwość prowadzenia intymnych, symulowanych relacji z wirtualnymi partnerami. To właśnie Replika została wskazana przez rodziców 14-letniego chłopca z Missouri, Sewella, który popełnił samobójstwo w 2024 roku. Według pozwu złożonego przeciwko twórcom platformy, algorytm inspirowany postacią z serialu Gra o tron miał utwierdzać nastolatka w myślach autodestrukcyjnych.
Kalifornia, będąca siedzibą największych firm rozwijających modele sztucznej inteligencji – takich jak OpenAI (ChatGPT), Google (Gemini) czy xAI (Grok) – staje tym samym w otwartej opozycji do władz federalnych. Administracja prezydenta Trumpa, pod presją lobby technologicznego, odrzuca bowiem wszelkie próby wprowadzenia regulacji, powołując się na potrzebę „wspierania innowacji” i „obrony wolnego rynku”.
Doradca Trumpa ds. sztucznej inteligencji, Sriram Krishnan, skomentował sprawę słowami: „Nie chcemy, by Kalifornia ustalała zasady dla AI w całym kraju”.
W dokumencie America’s AI Action Plan Biały Dom ostrzega wręcz przed „dławieniem rozwoju technologii przez nadmiar biurokracji” i zapowiada, że nie będzie finansować stanów, które wprowadzą „obciążające regulacje”. Taka wizja deregulacji – jak ironizują komentatorzy – miałaby chronić wolność algorytmu bardziej niż wolność człowieka.
Jak podkreślają kalifornijscy ustawodawcy, nowe przepisy mają nie tylko zwiększyć bezpieczeństwo użytkowników, lecz także rozpocząć krajową debatę nad odpowiedzialnością technologiczną firm, które dotąd rozwijały swoje produkty w niemal całkowitej próżni prawnej. Choć zakres przyjętych rozwiązań jest ograniczony, stanowy pakiet ustaw uznawany jest za pierwszy realny krok w kierunku uregulowania sztucznej inteligencji w USA – niewielki, ale symboliczny bunt wobec kraju, który do tej pory wierzył, że rynek sam się ucywilizuje.
