Roboti virtual akuzohet se u ofroi të rinjve përmbajtje seksuale dhe i nxiti për vetëvrasje

Dy familje kanë paditur kompaninë e robotit virtual me inteligjencë artificiale, Character.AI, pasi akuzuan se ofroi përmbajtje seksuale për fëmijët e tyre dhe i inkurajoi të lëndonin veten. Në padinë e bërë kërkohet që platforma me AI të mbyllet derisa të largohen rreziqet e supozuara.

CNN ka raportuar se sipas familjeve, Character.AI përbën rrezik të qartë dhe të pranishëm për të rinjtë amerikanë, duke shkaktuar dëme serioze për mijëra fëmijë, përfshirë shtytjen në vetëvrasje, vetëlëndimin, nxitjen seksuale, izolimin, depresionin, ankthin dhe dëmtimin ndaj të tjerëve. Kjo ankesë u bë në një gjykatë në Teksas, derisa u tha se kjo platformë i nxit fëmijët që t'i vrasin prindërit e tyre nëse ua kufizojnë kohën e shikimit në ekran.

Character.AI është inteligjencë e personalizuar për secilin moment të ditës, duke i lejuar përdoruesit të bisedojnë me disa robotë AI. Kjo ua mundëson atyre edhe t'i personalizojnë bisedat, në varësi prej kërkesës. Kundër kësaj platformë doli edhe një nënë në Florida. Ajo akuzoi Character.AI se ishte fajtor për vdekjen e djalit të saj, duke thënë se e inkurajoi të kryente vetëvrasje.

Character.AI tha se ka zbatuar rregulla të reja lidhur me sigurinë gjatë përdorimit. Kompania tha se ka punësuar staf shtesë, në mënyrë që t'i shmangë mesazhet nxitëse.

“Character.AI është produkt me defekt dhe vdekjeprurës që paraqet rrezik të qartë dhe të pranishëm për shëndetin dhe sigurinë publike”, thuhet në padinë e bërë.

Kreu i robotit virtual, Chelsea Harrison, s'e ka komentuar procesin gjyqësor, duke thënë se qëllimi i tyre është “të ofrojnë hapësirë tërheqëse dhe plotësisht të sigurt për komunitetin”.

Edhe Google po akuzohet se shtyu robotin virtual të përmbajë mesazhe vetëlënduese dhe dhune.

Zëdhënësi i saj, Jose Castaneda, ka thënë se Google dhe Character.AI janë kompani të ndara komplet, të palidhura dhe Google s'ka pasur asnjëherë rol në dizajnimin ose menaxhimin e modelit ose të teknologjive të tyre të AI.

“Siguria e përdoruesve është shqetësim kryesor për ne. Kjo është arsyeja pse ne kemi marrë një qasje të kujdesshme dhe të përgjegjshme për zhvillimin dhe nxjerrjen në treg të produkteve tona AI, me testime rigoroze dhe me siguri”, ka shtuar ai.

Një 17-vjeçar nga Teksasi thuhet se ishte viktima e parë e kësaj platforme.

Ai dyshohet se pësoi krizë mendore pasi u kyç në Character.AI. Sipas padisë, i mituri nisi të përdorte platformën pa dijeninë e prindërve, në vitin 2023 kur ai ishte 15-vjeçar.

Sipas prindërve, kur ai nisi ta përdorte atë, ndaloi pothuajse së foluri dhe fshihej në dhomën e vet.

“Ai nisi të ushqehej pak dhe humbi 20 kilogramë në vetëm disa muaj. Ai s'dëshiroi më të dilte nga shtëpia dhe kishte kriza emocionale e sulme paniku”.

Sipas CNN, kur prindërit tentuan t'ia kufizonin qëndrimin para televizorit, ai i godiste me grushte, godiste veten dhe kafshonte. Prindërit thanë se robotët virtualë me të cilët ai fliste në Character.AI po minonin raportet e tij me familjen.

Përdoruesi i dytë, 11-vjeçarja nga Teksasi përdori platformën kur ishte nëntë vjeçe.

Ajo thuhet se u ekspozua para ndërveprimeve hiperseksuale që s'ishin të përshtatshme për moshën e saj.