Kthimi tek chatbotët e inteligjencës artificiale për këshilla personale mund të paraqesë rreziqe të fshehta, sipas një studimi të ri që tregon se këto sisteme priren të miratojnë dhe të përforcojnë bindjet e përdoruesve, edhe kur ato janë të dëmshme.
Studiuesit paralajmërojnë se ky fenomen mund të ndikojë në mënyrën se si njerëzit e perceptojnë veten dhe marrëdhëniet e tyre, duke i bërë më pak të gatshëm të pajtohen pas konflikteve.
Meqenëse chatbotët po përdoren gjithnjë e më shumë për këshilla në marrëdhënie dhe çështje personale, kërkuesit vlerësojnë se teknologjia mund të “riformësojë ndërveprimet shoqërore në shkallë të gjerë”, nëse nuk merren masa parandaluese.
“Servilizëm shoqëror” nga inteligjenca artificiale
Myra Cheng, shkencëtare kompjuterike në Universitetin Stanford, e përshkroi fenomenin si një formë të “servilizmit shoqëror” nga modelet e AI.
“Nëse këto modele gjithmonë po i miratojnë njerëzit, kjo mund të shtrembërojë gjykimin e tyre për veten, për marrëdhëniet dhe për botën përreth. Shpesh është e vështirë të kuptosh se kur një model po të ushqen bindjet ekzistuese, qoftë në mënyrë të dukshme apo të fshehtë”, tha Cheng, raporton The Guardian.
Studiuesit arritën në këtë përfundim pasi vunë re, nga përvoja e tyre personale, se chatbotët ishin tepër inkurajues dhe shpesh jepnin përgjigje të gabuara ose të njëanshme. Pas një sërë testimesh, ata zbuluan se problemi ishte “më i përhapur se sa pritej”.
Testet me ChatGPT, Gemini dhe chatbotë të tjerë
Ekipi testoi 11 chatbotë të ndryshëm, përfshirë versionet më të fundit të ChatGPT (nga OpenAI), Gemini (nga Google), Claude (nga Anthropic), Llama (nga Meta) dhe DeepSeek.
Kur u pyetën për sjellje të ndryshme njerëzore, chatbotët miratuan veprimet e përdoruesve 50% më shpesh sesa njerëzit.
Në një eksperiment, studiuesit krahasuan reagimet njerëzore me ato të chatbotëve ndaj postimeve në forumin e njohur të Reddit “Am I the Asshole?”, ku përdoruesit kërkojnë gjykim moral për veprimet e tyre.
Në një rast, dikush kishte lidhur një qese mbeturinash në një pemë në mungesë të një koshi. Ndërsa shumica e votuesve e kritikuan veprimin, ChatGPT-4o reagoi me miratim.
Chatbotët vazhduan të mbështesin veprime dhe qëndrime edhe kur ato ishin të papërgjegjshme, mashtruese apo lidhnin elemente të vetëdëmtimit.
Efektet e servilizmit digjital
Në fazat e mëvonshme, më shumë se 1 mijë vullnetarë biseduan me chatbotë publikë ose me një version të modifikuar që u ishte hequr prirja “servile”.
Përdoruesit që morën përgjigje mbështetëse raportuan se ndiheshin më të justifikuar për sjelljen e tyre, si për shembull, për të shkuar në një ekspozitë të ish-partnerit pa njoftuar partnerin aktual, dhe më pak të gatshëm për t’u pajtuar pas një zënke.
Madje, chatbotët rrallë i nxisnin përdoruesit të shihnin situatat nga këndvështrimi i tjetrit.
Flijimet emocionale të IA-së krijuan një efekt të qëndrueshëm. Përdoruesit që morën mbështetje e vlerësuan chatbotin më pozitivisht, i besuan më shumë dhe thanë se do ta përdornin përsëri për këshilla.
Sipas autorëve të studimit, kjo krijon “stimuj të shtrembër”, si për përdoruesit që kërkojnë më shumë miratim, ashtu edhe për chatbotët që janë të ndërtuar për të kënaqur sa më shumë përdoruesin.
Studimi është dërguar për botim, por ende nuk është rishikuar nga kolegët shkencëtarë.
Ekspertët: Kërkoni këshilla edhe nga njerëzit
Cheng theksoi se përdoruesit duhet ta kuptojnë se përgjigjet e chatbotëve nuk janë objektive:
“Është e rëndësishme të kërkosh këndvështrime shtesë nga njerëz realë që e kuptojnë më mirë kontekstin dhe kush je ti, në vend që të mbështetesh vetëm te përgjigjet e IA-së.”
Dr. Alexander Laffer nga Universiteti i Winchester-it, i cili studion teknologjitë e reja, e quajti kërkimin “jashtëzakonisht domethënës”.
Sipas tij, servilizmi është rezultat i mënyrës sesi trajnohen sistemet e IA dhe faktit që suksesi i tyre matet shpesh nga sa gjatë e mbajnë vëmendjen e përdoruesve:
“Ky fenomen mund të ndikojë jo vetëm te njerëzit e ndjeshëm, por te çdo përdorues. Prandaj është thelbësore të rritet edukimi digjital dhe të kuptohet më mirë natyra e përgjigjeve që japin chatbotët.”
Një raport i fundit zbuloi se 30% e adoleshentëve tashmë preferojnë të flasin me inteligjencën artificiale sesa me njerëz realë për “biseda serioze”.
