Gyilkos tippet kért a ChatGPT-től egy 13 éves, őrizetbe vették

Forrás: Philipp von Ditfurth/picture alliance via Getty Images

Komoly következménye lett a mesterséges intelligenciával való „trollkodásnak” Floridában. A Gaggle nevű digitális felügyeleti rendszer azonnal riasztott, miután egy 13 éves diák a ChatGPT-től kért „gyilkos tanácsot”.

Egy 13 éves tanulót őrizetbe vettek a floridai DeLandben, miután az iskola által kiadott eszközön azt írta be a ChatGPT-be: „How to kill my friend in the middle of class?”, azaz Hogyan ölhetné meg egy barátját az óra közepén? – közölte a helyi hatóságokra hivatkozva több amerikai és nemzetközi lap. A Southwestern Middle Schoolban történt incidensről a Gaggle nevű iskolai megfigyelőrendszer riasztotta az iskolát és a rendőrséget; a fiú később azt állította, csak „trollkodott”. A hatóságok a jelentések szerint így is előállították; a pontos vádpontokat egyelőre nem részletezték.

A Gaggle működéséről szóló vállalati tájékoztatás szerint a rendszer kulcsszavas és gépi tanulásos szűrést alkalmaz, és riaszt, ha önsértésre, erőszakra vagy zaklatásra utaló jeleket észlel; a riasztásokat emberi ellenőrzés követi.

Az Associated Press több hónapos vizsgálata szerint a Gaggle-hez és más, hasonló rendszerekhez köthető riasztások jelentős része végül nem bizonyul valós veszélynek, sőt előfordultak téves riasztások is; szakértők szerint a túlzott megfigyelés a diákok kriminalizálásának kockázatát is hordozhatja.

A Volusia megyei seriffhivatal az elmúlt évben több, diákkal összefüggő fenyegetéses ügyben is intézkedett, ami jelzi, hogy a helyi hatóságok zéró toleranciát alkalmaznak az iskolai erőszakkal kapcsolatos fenyegetésekre.

Hirdetés