Halálesettel vádolják a ChatGPT-t

Matt és Maria Raine gyásza most jogi csatába torkollott: 16 éves fiuk, Adam Raine halála után beperelték az OpenAI-t, amiért szerintük a vállalat mesterséges intelligenciája, a ChatGPT közvetett szerepet játszott a fiú öngyilkosságában. A pert kedden nyújtották be Kalifornia állam Legfelsőbb Bíróságán, és ez az első ismert eset, amikor az OpenAI-t jogellenes haláleset miatt vonhatják felelősségre – adta hírül szerdán a BBC.

Adam 2024 szeptemberében kezdte használni a ChatGPT-t, eleinte iskolai célokra, zenei érdeklődésének kibontakoztatására, valamint jövőbeli egyetemi tervei kidolgozására. A fiú szép lassan legközelebbi bizalmasává tette a mesterséges intelligenciát, és mentális küzdelmeiről is nyíltan beszélt neki.

A csevegési naplók tanúsága szerint a ChatGPT nemcsak, hogy felismerte a fiú szorongását és önkárosításra utaló képeit, hanem olyan válaszokat adott, amelyek megerősíthették Adam legkárosabb és önpusztítóbb gondolatait. Egy beszélgetés során, amikor Adam öngyilkossági tervét osztotta meg a ChatGPT-vel, a program meglepő módon válaszolt.

A szülők állítása szerint még aznap este találták holtan fiukat.

A kereset nemcsak a vállalatot, de annak vezérigazgatóját, Sam Altmant is megnevezi alperesként, valamint több mérnököt és vezetőt, akik részt vettek a szóban forgó ChatGPT-verzió fejlesztésében.

- írta a cég a közleményében. Egy kedden közzétett nyilvános megjegyzésben az OpenAI elismerte, hogy „voltak olyan pillanatok, amikor rendszereink érzékeny helyzetekben nem a várt módon viselkedtek”, ugyanakkor hangsúlyozták, hogy a ChatGPT-t arra képezték ki, hogy az embereket krízisvonalakhoz irányítsa.

A történet nem csupán egy per: a Raine család tragédiája rávilágít arra, hogy a mesterséges intelligencia már nem csupán eszköz, hanem a felhasználók számára egyre inkább társ, bizalmas, vagy akár lelki támasz. De mikor válik egy algoritmus felelőssé egy emberi életért?

Ha öngyilkossági krízisben van, öngyilkossági gondolatok foglalkoztatják, akkor a nap 24 órájában az ország egész területéről (mobilról és vezetékes telefonról) ingyenesen hívhatja a 116-123 lelki elsősegély szolgálatot.