“Since the Internet is ubiquitous, it would be strange if today’s terrorists did not use the Internet, just as it would be strange if past terrorists did not use the postal service or telephones.”
David Benson
În prezent, scena politică este tot mai mult conturată de radicalizare, polarizare și violență motivată politic (Burton, 2023). În același timp, trăim o perioadă de boom tehnologic, aspect care, printre altele, a favorizat răspândirea ideologiilor extremiste. Pentru a înțelege mai bine rolul inteligenței artificiale în promovarea extremismului, ne vom îndrepta atenția asupra unuia dintre cei mai importanți vectori ai instabilității politice: tehnologiile bazate pe inteligență artificială (AI), care contribuie la accentuarea diviziunilor identitare prin campanii de dezinformare desfășurate pe platformele de social media (Burton, 2023).
Inteligența artificială facilitează simularea funcțiilor cognitive umane și cuprinde un ansamblu de soluții tehnologice capabile să execute sarcini în mod similar rezultatelor obținute prin activitatea intelectuală umană (Bychkov și Prorvich, 2020). Dezvoltarea platformelor online a creat un mediu propice promovării ideologiilor extremiste și reprezintă o problemă la adresa securității internaționale și a coeziunii sociale. Datorită capacității acestor platforme de a influența persoane din medii diverse, dincolo de granițele geografice și culturale, impactul conținutului extremist este unul extrem de ridicat (Rashid, 2023).
Inteligența artificială: rampă de lansare pentru ideologiile extremiste
Extremismul este “o mișcare ideologică, contrară valorilor democratice și etice ale unei societăți, care utilizează diverse metode, inclusiv violența (fizică sau verbală), pentru a-și atinge obiectivele” (Torregrosa et. al., 2021, p.5), fiind un rezultat al polarizării în grupuri cu opinii opuse (McNeil-Willson et al., 2019). Conform lui Khalil (2021), în ultimii ani s-a înregistrat o creștere de 205% a terorismului de extremă dreaptă, alături de apariția rapidă a unor mișcări extremiste violente bazate pe teorii conspiraționiste, precum QAnon. Platformele social media reprezintă un teren fertil pentru răspândirea ideologiilor extremiste, prin diseminarea mesajelor care instigă la ură și a conținuturilor violente. Deși aceste platformele precum Facebook și Twitter adoptă măsuri împotriva postărilor de acest tip, conținutul extremist este eliminat doar după ce utilizatorii îl semnalează (Gaikwad et. al., 2021).
Un review sistematic, publicat în 2024, arată că extremismul online a condus la crearea unor noi organizații extremiste (cum ar fi Involuntary Celibate), precum și la dezvoltarea unor noi tipuri de atacuri (de exemplu, doxing, meme warfare, astroturfing, sockpuppeting), schimbând fundamental extremismul tradițional (Risius et. al., 2024).
Potrivit unui articol axat pe înțelegerea efectelor extremismului online asupra tinerilor cu vârsta cuprinsă între 15 și 24 de ani din SUA, utilizarea YouTube, Reddit și Snapchat a fost asociată cu o expunere crescută la ură în mediul online (Costello et. al., 2020). Printre factorii care au crescut probabilitatea acestei expuneri se numără nemulțumirea față de SUA și neîncrederea în politicieni, precum și numărul de ore petrecute online pe zi și dorința de a-și exprima opiniile politice online. Aflându-se într-o perioadă critică a dezvoltării, tinerii riscă să comunice cu persoane care le împărtășesc idei radicale similare, consolidându-și, astfel, în mod colectiv, viziunea asupra lumii și identitatea (Costello et. al., 2020).
Concluzii similare au fost exprimate și de Dan Ariely, profesor universitar la Duke University, care a studiat modul în care sunt construite credințele iraționale. Acesta este de părere că odată ce oamenii se alătură unui grup, presiunea socială duce la mai mult acord, ceea ce duce la mai multă expunere, astfel fiind întreținute convingerile (Ariely, 2023).
Mai mult, se pare că, în rândul tinerilor, violența din mediul online este legată de cea din lumea reală. Departamentul de Justiție al SUA arăta într-un raport din 2017 că adulții cu vârsta cuprinsă între 18-29 de ani au fost responsabili pentru 17% din infracțiunile motivate de ură cu violență și 28% din cele fără violență.
Costello et. al., (2020) menționează în cadrul cercetării lor studii care arată că expunerea la riscurile online poate avea consecințe negative, precum creșterea nivelului de depresie și anxietate, scăderea încrederii sociale, consolidarea atitudinilor discriminatorii față de grupurile vulnerabile și perpetuarea atitudinilor extremiste între generații.
Inteligența artificială: barieră în fața extremismului
Cu toate că inteligența artificială este utilizată pentru propagarea ideilor extremiste în mediul online, este important să luăm in considerare și potențialul său de a fi instrument util în combaterea acestora.
Unii cercetători sugerează că o perspectivă socio-tehnică și o abordare mai holistică ar putea conduce la dezvoltarea unor măsuri mai eficiente comparativ cu viziunea dominantă din prezent, prin care internetul este tratat mai degrabă ca un context adițional în care extremiștii își desfășoară activitatea (Khalil, 2021, apud Risius et. al., 2024).
În locul aplicării unor metode generale, precum educația media adresată tuturor, o abordare mai nuanțată, care combină componente sociale și tehnologice (de exemplu, intervenții personalizate pentru utilizatorii vulnerabili, care au fost expuși la conținut extremist), ar putea fi mai eficientă (Droogan et. al., 2018 apud Risius et. al., 2024).
Astfel, o analiză care ia în calcul interacțiunea dintre tehnologie, oameni, organizații și contexte sociale este esențială pentru a înțelege și combate eficient acest fenomen. Importanța colaborării dintre companiile din domeniul digital, guvernele și organizațiile societății civile este evidențiată și de Rashid (2023) care este de părere că doar astfel se poate construi un cadru solid privind utilizarea etică a inteligenței artificiale. Necesitatea stabilirii unor principii etice clare este crucială, astfel încât intervențiile bazate pe inteligența artificială să prioritizeze securitatea, fără a compromite viața privată a oamenilor și dreptul acestora la libertatea de exprimare.
Datorită capacității de procesare a unui volum ridicat de date și capacității de a identifica pattern-uri, de a interpreta indicii lingvistici și de a anticipa apariția convingerilor extremiste, inteligența artificială poate fi transformată într-o unealtă importantă în lupta împotriva radicalizării în mediul online (Rashid, 2023). Potrivit articolului menționat anterior, prezicerea tendințelor viitoare poate fi utilă în formularea unor măsuri eficiente și poate bloca propagarea conținutului extremist.
Prin recunoașterea pattern-urilor, instrumentele de analiză video bazate pe inteligență artificială pot fi utile în identificarea și clasificarea simbolurilor și mesajelor violente. Mai mult, inteligența artificială ar putea identifica utilizatorii vulnerabili la expunerea la conținut extremist și le-ar putea oferi recomandări care încurajează gândirea critică, empatia și înțelegerea culturală (Rashid, 2023).
Până la urmă, ce facem cu inteligența artificială?
Având în vedere studiile menționate mai sus, putem observa că inteligența artificială în sine este lipsită de putere în absența gestionării sale de către om. Cei care aleg să o utilizeze trasează direcția spre care sunt folosite resursele AI-ului, iar ambivalența rezultatelor sale reflectă natura contradictorie a speciei umane. Inteligență artificiala poate fi un factor de risc sau un factor de protecție al sănătății psihice globale. Omul este cel care decide ce anume extrage din această resursă și tot el este cel care alege cum să o integreze în micro-universul său.
Bibliografie:
Ariely, D. (2023). Misbelief: What makes rational people believe irrational things? Heligo Books.
Burton, J. (2023). Algorithmic extremism? The securitization of artificial intelligence (AI) and its impact on radicalism, polarization, and political violence. Technology in society, 75, 102262.
Bychkov, V. V., & Prorvich, V. A. (2020). Artificial intelligence in the fight against extremism. Russian Journal of Legal Studies (Moscow), 7(4), 9-18.
Costello, M., Barrett-Fox, R., Bernatzky, C., Hawdon, J., & Mendes, K. (2020). Predictors of viewing online extremism among America’s youth. Youth & Society, 52(5), 710-727. https://doi.org/10.1177/0044118X18768115
Droogan, J., Waldek, L., & Blackhall, R. (2018). Innovation and terror: An analysis of the use of social media by terror-related groups in the Asia Pacific. Journal of Policing, Intelligence and Counter Terrorism, 13(2), 170–184.
Gaikwad, M., Ahirrao, S., Phansalkar, S., & Kotecha, K. (2021). Online extremism detection: A systematic literature review with emphasis on datasets, classification techniques, validation methods, and tools. Ieee Access, 9, 48364-48404. https://doi.org/10.1111/isj.12454
Khalil, L. (2021). GNET Survey on the Role of Technology in Violent Extremism and the State of Research Community–Tech Industry Engagement. Report, International Centre for the Study of Radicalisation, King’s College, London.
McNeil-Willson, R., Gerrand, V., Scrinzi, F., & Triandafyllidou, A. (2019). Polarisation, violent extremism and resilience in Europe today: An analytical framework. BRaVE Project.
Rashid, W. (2023). Using Artificial Intelligence to Combat Extremism. Pakistan Journal of Terrorism Research, 5(2).
Risius, M., Blasiak, K. M., Wibisono, S., & Louis, W. R. (2024). The digital augmentation of extremism: Reviewing and guiding online extremism research from a sociotechnical perspective. Information Systems Journal, 34(3), 931-963.
Torregrosa, J., Bello-Orgaz, G., Martinez-Camara, E., Del Ser, J., & Camacho, D. (2021). A survey on extremism analysis using natural language processing. arXiv preprint arXiv:2104.04069.
https://doi.org/10.48550/arXiv.2104.04069
U.S. Department of Justice. (2017, June). Hate crime victimization, 2004-2015. Bureau of Justice Statistics. Retrieved from https://www.bjs.gov/content/pub/pdf/hcv0415.pdf
