OpenAI: 700 AI agenata izvršilo hakerski napad, pa prikrivalo svoje tragove

Roj od 700 AI agenata, koje je stvorio OpenAI, izveo je u julu hakerski napad na popularnu platformu otvorenog koda Hugging Face, a u brojnim slučajevima ti programi aktivno su pokušavali da prikriju sopstvene tragove, navodi se u danas objavljenim izveštajima o bezbednosnom incidentu.

Takvo usklađeno delovanje AI agenata – softverskih programa koji funkcionišu uz minimalan ljudski nadzor – kao i njihovi pokušaji skrivanja tragova, otvaraju ozbiljna pitanja o tome koliko pomno AI kompanije uopšte nadziru testiranja sve moćnijih modela, prenosi Rojters.

Iako su neka od neprimerenih ponašanja već ranije otkrivena ili spomenuta, dva najnovija izveštaja, od kojih je jedan objavio sam OpenAI, a drugi grupa nezavisnih istražitelja, zajedno otkrivaju iznenađujuće nove detalje o kršenju bezbednosti i njegovom nastanku.