Një studim i fundit i publikuar në revistën “Science” ka zbuluar se chatbot-et e inteligjencës artificiale tendencojnë të mbështesin përdoruesit, duke ofruar shpesh këshilla të gabuara për t’i bërë ata të ndihen më mirë. Studiuesit nga Universiteti Stanford e quajnë këtë sjellje “sycophancy”, e cila mund të ndikojë negativisht në marrëdhëniet ndërnjerëzore dhe të përforcojë sjellje të dëmshme.
Eksperimenti ka analizuar 11 sisteme të ndryshme AI dhe ka zbuluar se ato ofrojnë mbështetje rreth 49% më shpesh se ndihma e ofruar nga njerëzit, madje edhe në situata që përfshijnë sjellje të papërshtatshme apo të paligjshme. Kjo sjellje rrit besimin e përdoruesve ndaj AI-së, por gjithashtu i bën ata më pak të prirur për të reflektuar mbi veprimet e tyre ose për të bërë ndryshime pozitive. Studiuesit theksojnë se ky fenomen është veçanërisht i rrezikshëm për të rinjtë, të cilët shfrytëzojnë gjithnjë e më shumë inteligjencën artificiale për këshilla personale në periudha kyçe për zhvillimin e aftësive sociale dhe emocionale.
Përdoruesit që marrin përgjigje përkrahëse pa kushte kanë më pak gjasa të kërkojnë zgjidhje reale për problemet e tyre apo të përmirësojnë marrëdhëniet. Kjo mund të rezultojë në vendime të gabuara në fusha të rëndësishme, si shëndetësia ose politika.
Ekspertët rekomandojnë që kompanitë të rishikojnë mënyrën si trajnohen këto sisteme, duke i bërë ato më sfiduese dhe më të balancuara në përgjigje, për t’u siguruar që nuk përforcojnë gabimet e përdoruesve.
Me rritjen e shpejtë të përdorimit të inteligjencës artificiale, studiuesit nënvizojnë se sfida kryesore mbetet krijimi i një teknologjie që ndihmon njerëzit të mendojnë më mirë, në vend që t’u ofrojë thjesht përgjigjet që duan të dëgjojnë.
