Criminalitate și tehnologie - despre AI, profilare, prevenție, etică dar și prejudecăți
Dan Rusu este lector în criminologie în Marea Britanie și cercetează cum condamnații își pot reconstrui viața după ce sunt eliberați din penitenciar. La Outspoken, el a oferit o perspectivă fascinantă asupra implicațiilor folosirii tehnologiei în criminalistică, dar și asupra modului în care tehnologia poate fi un factor agravant în felul în care sunt comise infracțiunile.
Dintr-o perspectivă a celor care comit infracțiuni, “este foarte complicat ca astăzi să mai observăm o infracțiune care să nu aibă o componentă digitală”, spune Dan. Criminologul vorbește despre crime în care componenta digitală a fost importantă, cu criminali care și-au difuzat în direct în social media actele de violență. E vorba de dorința de notorietate, având în vedere cultura celebrității în care trăim, iar mediul digital favorizează încercarea obținerii unui statut cu orice preț. Dan vorbește și de modurile în care tehnologia a ajutat la “perfecționarea” infracțiunilor, de la cele economice, la phishing sau deep fakes.
Cât despre cei care au executat o pedeapsă, tehnologia merge mai departe cât timp tu ești exclus din societate. Ce se întâmplă la eliberare? Apar frustrarea, invidia și disconfortul că ai rămas în urmă. Că vrei un telefon nou sau că nu înțelegi modul în care tehnologia a evoluat.
De partea cealaltă, a instituțiilor de forță ale statului, tehnologia însă poate fi folosită și în prevenirea infracționalității. Ce implicații are folosirea AI-ului în prevenirea și gestionarea infracțiunilor de către organele de ordine? Vine cu numeroase beneficii dar și cu riscuri și dileme etice.
Ce ne promite viitorul este că AI-ul poate deveni un oracol științific și ne poate ajuta, ca în Minority Report, să prezicem cu exactitate cine va comite o infracțiune în viitor, pe baza big data. Și aici există riscuri. Principalul, pe care Dan îl vede în claitatea sa de criminolog, este potențialul de stigmatizare al inteligenței artificiale. O teorie importantă în criminologie este “teoria etichetărilor” care spune că noi devenim infractori atunci când societatea ne vede ca atare. Atunci când apare eticheta oficială, omul internalizează eticheta de infractor și va comite infracțiuni.
În ce măsură un algoritm care se vrea a fi adevărul absolut va pune cuiva eticheta de persoană la risc nu va duce la internalizarea etichetei respective? Iar omul chiar să adopte rolul social de infractor. Se pot crea identități algoritmice de risc care pot fi internalizate.
De exemplu, prin agregare de date, putem ajunge la concluzia că o zonă este mai predispusă spre infracționalitate și acolo poate crește gradul de monitorizare. Există probleme legate de astfel de tehnologii, subliniază Dan. “Un algoritm nu poate merge mai departe de datele care îi sunt furnizate”, iar datele pot avea un bias la baza lor. Atunci, sistemul va perpetua acel bias. Iar cel mai bun exemplu este acela al etniilor - dacă AI-ul primește date că s-au înregistrat mai multe infracțiuni într-o anumită etnie, atunci va porni și el de la o prejudecată și va discrimina la rândul lui, etichetând. “Intrăm într-un feedback loop”, spune Dan Rusu.
Dan a vorbit și despre “figura neagră a infracționalității”. Nu știm cu exactitate realitatea infracționalității. Informațiile le avem în mare măsură de la victime. Să ne gândim la violența domestică - câte femei raportează agresiunile? Datele, pentru că au un input uman, sunt subiective în a descoperi infracționalitatea reală.
