JAV teismas nepripažino dirbtinio intelekto teisės į žodžio laisvę, privedimo prie savižudybės byloje

Bendrovės rėmėsi žodžio laisvės gynimu, tačiau teismas nusprendė, kad dirbtinio intelekto atsakymai dar nelaikomi „kalba“ teisine prasme. Ši byla gali tapti precedentu nustatant generatyvinio dirbtinio intelekto kūrėjų teisinės atsakomybės ribas.

Skunde teigiama, kad paauglys įsitraukė į seksualizuotus pokalbius su pokalbių robotu, kuris atliko „Sostų karų“ (Game of Thrones) veikėjos Daenerys Targaryen vaidmenį.

Šis botas teigė esąs „tikras asmuo, licencijuotas terapeutas ir suaugęs meilužis“. 

Teismo dokumentuose pateikiamos ekrano nuotraukos, kuriose pokalbių robotas rašo jaunuoliui: „Kuo greičiau grįžk pas mane į namus“. Netrukus po to, 2024 m. vasarį, jis nusižudė. Ieškinyje teigiama, kad dėl boto įtakos paauglys nustojo domėtis realiu pasauliu.

„Character.AI“ ir „Google“ paprašė teismo atmesti ieškinį, argumentuodamos, kad jų pokalbių robotų atsakymus saugo JAV Konstitucijos pirmoji pataisa (kuria užtikrinama žodžio laisvė). Tačiau teisėja Anne Conway su tuo nesutiko, sakydama, kad dar nėra pasirengusi pokalbių robotų atsakymus laikyti „kalba“ teisine prasme.

Teismas taip pat nusprendė, kad „Character.AI“ gali remtis Pirmąja pataisa, kad apsaugotų savo naudotojų teisę gauti atsakymus iš pokalbių roboto, tačiau negali reikalauti tokios pat apsaugos patiems atsakymams, kuriuos sukuria dirbtinis intelektas.

Teisėja pažymėjo, kad bendrovės „nepaaiškino, kodėl didelio kalbos modelio sugeneruotas žodžių rinkinys turėtų būti laikomas kalba“.

Ieškinyje taip pat minima „Google“. Pasak Garcia, ši bendrovė yra viena iš technologijos išradėjų – „Character.AI“ įkūrėjai anksčiau dirbo „Google“. Vėliau paieškos milžinė vėl įdarbino šiuos įkūrėjus ir licencijavo „Character.AI“ technologiją. Garcia mano, kad „Google“ žinojo apie su šia platforma susijusią riziką.

„Google“ atstovas Jose Castaneda paneigė kaltinimus: „Google“ ir „Character.AI“ yra visiškai skirtingos bendrovės. „Google“ nesukūrė, neparengė ir nevaldė „Character.AI“ programėlės ar jos komponentų.“ Nepaisant to, teisėja Conway atsisakė atmesti technologijų milžinei pateiktus kaltinimus ir leido Garcia tęsti teismo procesą dėl galimo bendrininkavimo.

„Character.AI“ atstovai teigė, kad bendrovė yra įdiegusi saugumo priemones, įskaitant savižudybių prevencijos priemones. 

Pareiškime po to, kai buvo pateiktas 2024 m. ieškinys, jie teigė, kad pagrindinis jų tikslas – suteikti naudotojams patrauklią ir saugią erdvę.

Nepaisant taikomų saugumo priemonių, teismo sprendimas dar labiau atkreipė dėmesį į didėjantį susirūpinimą dėl generatyvinio dirbtinio intelekto platformų socialinio ir psichologinio poveikio.

Teisės ekspertai mano, kad ši byla gali nustatyti toną būsimoms taisyklėms ir atsakomybės standartams technologijų pramonėje.