Studiues të sigurisë së inteligjencës artificiale kanë ngritur shqetësime pasi zbuluan se versioni më i fundit publik i ChatGPT-së mund të manipulohej për të gjeneruar imazhe me përmbajtje seksuale ose të dhunshme përmes udhëzimeve të modifikuara.
Sipas raportimit të BBC-së, kompania britanike e sigurisë kibernetike Mindgard arriti të anashkalojë disa prej mbrojtjeve të sistemit, duke bërë që modeli të krijonte imazhe grafike dhe shqetësuese.
OpenAI ka reaguar duke deklaruar se pas identifikimit të problemit janë vendosur masa shtesë mbrojtëse për të parandaluar gjenerimin e përmbajtjeve që shkelin rregullat e platformës.
Megjithatë, studiuesit pretendojnë se me ndryshime të vogla në udhëzime, sistemi vazhdonte të prodhonte materiale problematike, përfshirë skena të dhunshme dhe përmbajtje të papërshtatshme.
Sipas ekspertëve të Mindgard, rasti tregon sfidat e vazhdueshme me të cilat përballen kompanitë e inteligjencës artificiale në kontrollin e përmbajtjes së gjeneruar nga modelet e avancuara.
/A.K/