Un sistem de inteligență artificială pentru detectarea armelor a generat o alarmă falsă, identificând greșit un pachet de chipsuri drept un pistol. Această situație a dus la intervenția forțelor de poliție la o școală din Baltimore, SUA.
Un adolescent în vârstă de 16 ani, Taki Allen, a fost pus în cătușe de către polițiștii înarmați, după ce un algoritm de supraveghere al școlii a interpretat greșit un pachet de Doritos pe care acesta îl avea ca o armă de foc. Incidentul s-a petrecut imediat după terminarea antrenamentului de fotbal, când băiatul a decis să pună pachetul gol de chipsuri în buzunar.
Desfășurarea incidentului
Potrivit rapoartelor, sistemul de inteligență artificială al școlii a alertat evaluatori umani, care au concluzionat că nu exista nicio amenințare. Cu toate acestea, directorul școlii nu a fost informat de această concluzie și a contactat echipa de siguranță, ceea ce a dus la apelarea poliției. La fața locului au ajuns opt mașini de poliție, iar agenții au intervenit cu armele pregătite, punându-l pe adolescent la pământ și încătușându-l.
- Sistemul de inteligență artificială a generat o alertă după ce a confundat pachetul de chipsuri cu o armă
- Directorul a contactat serviciile de securitate fără să verifice anularea alertei
- Opt echipaje de poliție au sosit la școală
„Au ajuns cam opt mașini de poliție, iar toți au ieșit cu armele îndreptate spre mine, cerându-mi să mă pun la pământ”, a declarat Taki Allen pentru WMAR-2 News. „Mi-au spus să mă pun în genunchi, m-au arestat și mi-au pus cătușe.” Poliția din Baltimore a confirmat că adolescentul a fost încătușat, dar nu a fost arestat.
Reacția autorităților și a școlii
Reprezentanții Departamentului de Poliție din Baltimore au declarat că acțiunile polițiștilor au fost „adecvate și proporționale pe baza informațiilor disponibile în acel moment”. Aceștia au subliniat că „incidentul a fost gestionat în siguranță, după ce s-a stabilit că nu exista vreo amenințare”.
Kate Smith, directoarea școlii, a transmis părinților printr-o scrisoare că echipa de siguranță „a analizat rapid și a anulat alerta inițială, după ce a confirmat că nu exista nicio armă”. „L-am contactat pe ofițerul nostru de resurse școlare (SRO) și i-am raportat incidentul, iar el a contactat secția locală pentru sprijin suplimentar”, a adăugat ea. „Ofițerii de poliție au venit la școală, au percheziționat tânărul și au confirmat rapid că acesta nu deținea nicio armă.”
Efectele asupra elevului
Taki Allen a menționat că, după acest incident, preferă să aștepte în interior după antrenamente, deoarece consideră că nu este sigur să stea afară, mai ales dacă mănâncă chipsuri sau bea ceva. „Nici măcar nu mai ies afară să mănânc sau să beau ceva,” a spus el. „Nicio pungă de chipsuri nu ar trebui confundată cu o armă.”
Controverse privind tehnologia de detectare a armelor
Omnilert, furnizorul principal de detectare a armelor prin inteligență artificială implicat în incident, susține pe site-ul său că tehnologia sa folosește „detectare mai fiabilă, mai puține alarme false și un sistem care funcționează acolo unde contează cel mai mult”. Compania admite însă că detectarea armelor în condiții reale este o provocare complexă. „Metodologia noastră centrată pe date antrenează inteligența artificială să performeze corect în aceste scenarii, având la bază date reale din condiții reale, nu simulări”, au declarat reprezentanții companiei.
- Omnilert afirmă că utilizează date din condiții reale pentru a antrena AI-ul
- Compania susține că sistemul reduce numărul de alarme false
- Problemele de identificare corectă continuă să fie frecvente în practică
Consilierul local Izzy Pakota a declarat: „Fac apel la Baltimore County Public Schools să revizuiască procedurile lor în privința sistemului de detectare a armelor bazat pe inteligență artificială.” De asemenea, BBC a solicitat un comentariu de la Omnilert, însă răspunsul companiei nu a fost deocamdată primit.
În plus, anul trecut, o altă companie, Evolv Technology, a fost interzisă să facă afirmații nefondate despre produsele sale, după ce a susținut că sistemul său de inteligență artificială poate detecta toate armele. Investigațiile realizate de BBC au spus că aceste trăsături erau false.
Perspectiva asupra viitorului tehnologiei în școli
Numărul tot mai mare de școli din Statele Unite care folosesc sisteme AI pentru detectarea armelor este în creștere, dar incidentul din Baltimore evidențiază riscurile și limitele acestei tehnologii. Experții avertizează că algoritmii pot fi induși în eroare de obiecte comune precum pachetele de chipsuri, umbrelele sau cutiile metalice.
Poliția insistă că a respectat toate procedurile standard, dar incidentul a stârnit discuții aprinse cu privire la siguranța și eficiența sistemelor AI în mediul educațional. Există un număr tot mai mare de întrebări referitoare la faptul că aceste tehnologii ar trebui să fie revizuite sau chiar înlocuite cu soluții mai sigure, care să evite astfel de situații pe viitor.
În concluzie, incidentul din Baltimore subliniază nu doar provocările legate de utilizarea tehnologiilor avansate în școli, ci și nevoia urgentă de a regândi modul în care gestionăm siguranța elevilor. Este nevoie de un echilibru corect între adoptarea inovațiilor tehnologice și asigurarea unui mediu educațional sigur și sănătos pentru toți elevii.
Pe măsură ce tehnologia continuă să avanseze, iată câteva sugestii pentru școlile care doresc să implementeze astfel de sisteme de dete:
- Realizați o evaluare riguroasă a riscurilor înainte de implementarea oricărui sistem AI.
- Asigurați-vă că personalul este bine instruit cu privire la utilizarea acestor tehnologii și la interpretarea alertelor generate.
- Întrebați-vă despre soluții alternative care pot oferi aceeași securitate fără riscurile asociate cu alertele false.
- Îmbunătățiți comunicarea cu elevii și comunitatea pentru a asigura transparența în legătură cu modul în care sunt gestionate securitatea și tehnologia.
- Monitorizați și evaluați constant performanța sistemelor AI pentru a identifica și corecta problemele potențiale.
În contextul în care incidentele similare pot afecta grav psihologia elevilor și percepția asupra securității în școală, este esențial ca toți actorii implicați — școli, autorități și comunități — să colaboreze pentru a crea un mediu sigur și armonios.
