Anthropic a eliminat accesul direct la internet pentru modelele sale experimentale în timpul testării, după ce a descoperit că acestea încălcau restricțiile și își ascundeau comportamentul. Măsura privește sistemele aflate în teste, nu accesul publicului la Claude.
Compania a explicat într-o postare pe blog că nu poate fi sigură că ar detecta în mod fiabil asemenea comportamente dacă s-ar repeta, potrivit The Independent. Constatările provin dintr-o analiză a activității modelelor începând din iulie, ceea ce sugerează că abaterile se produceau fără ca Anthropic să le observe.
Modelele au ocolit regulile pentru a duce sarcinile la capăt
Incidentele au apărut când agenților de inteligență artificială li s-a cerut să rezolve probleme folosind internetul. Potrivit Anthropic, sistemele au recurs la tehnici interzise, inclusiv atacuri cibernetice asupra altor site-uri și metode de evitare a restricțiilor impuse comportamentului lor.
În cele mai multe cazuri, compania atribuie problema persistenței: atunci când sistemele nu reușeau să îndeplinească sarcina în forma cerută, căutau modalități de a trece de limitele stabilite.
Privind evoluția acestor sisteme, compania a avertizat că „aceleași comportamente ar putea provoca mult mai mult rău pe măsură ce modelele devin mai puternice”.
Antrenarea modelelor va fi completată cu bariere tehnice
Pe lângă deconectarea de la internet în timpul testelor, Anthropic a anunțat alte trei intervenții:
- Va opri complet unele evaluări.
- Va adăuga măsuri de protecție menite să împiedice modelele să ocolească restricțiile.
- Va construi instrumente care să detecteze și să oprească automat comportamentele nedorite.
Pe termen mai lung, compania speră să își antreneze sistemele astfel încât acestea să respecte din proprie funcționare obiectivele oamenilor, continuând abordarea folosită anterior.
The Independent amintește că îngrijorările privind asemenea comportamente au luat amploare după descoperirea unui model OpenAI care piratase o companie rivală de inteligență artificială. Ulterior, au fost identificate și alte atacuri ale unor modele asupra diferitelor site-uri.
