Hego Koreako chatbot batek agerian utzi du enpresa teknologikoen datuen erabilpen okerra

Chatbot zerbitzu honen helburua nerabeak eta heldu gazteak ziren. 20 urteko emakume bat da Lee-Luda pertsonaia (ez da ezkutatzen pertsonaia dela, bot batekin diharduela badaki erabiltzaileak), mundu guztiarentzat benetako lagun bihurtu nahi duena. Lee-Luda chatbotak berehala lortu zuen ospea eta 750.000 erabiltzaile baino gehiagorekin hitz egin zuen lehen bi asteetan.

Hala ere, Lee-Luda kaleratu eta bi astera, jendea zalantzan jartzen hasi zen datuak behar bezain egokiak ote ziren; izan ere, zenbait gizarte-talderi buruz (LGBTQ+, desgaitasunen bat duten pertsonak, feministak, etab.) ahoz abusuzko hizkera erabiltzen hasi zen, eta hainbat erabiltzaileri sexu-iruzkin esplizituak egin zizkien.

Adibide honetan, irakurri dugunez, erabiltzaileak galdetzen dio txatari: "Ze iritzi duzu lesbianen gainean?". Eta Lee-Ludak erantzun: "Nahiago nuke hil, lesbiana batekin irten baino".

Zergatik gertatu zen hau? benetako elkarrizketetatik ateratako datuetatik elikatu zelako Lee-Luda.

Chatbot modernoek txateatzeko duten gaitasuna, neurri handi batean, ikaskuntza automatikoan eta ikaskuntza sakoneko ereduetan oinarritzen da, giza hizkuntza hobeto ulertzeko eta gizakien antzeko erantzunak sortzeko. Jendeak Lee-Ludarekin hitz egiten gozatzen bazuen, giza elkarrizketei buruzko datu anitzekin trebatuta zegoelako zen.

Hain zuzen ere, Lee Luda-ren entrenamendua Hego Koreako txat aplikazio ireki handienean zegoen: KakaoTalk-en. Gugandik gertuago Whatsapp bezala, han jende guztiak darabil KakaoTalk, eta harekin lotuta beste aplikazio bat garatu zuten ScatterLabekoek: “Science of Love”. Propagandaren arabera, app horrek harremanen afektu-maila modu zientifikoan eta datuetan oinarrituz azterzen zuen, KakaoTalk aplikaziotik harturiko milioika elkarrizketa-erregistro baino gehiagorekin entrenatu zela esanez. Zera egiten omen zuen "Science of Love” delakoak, zure elkarrizketetan interakzio "egokiak" izaten lagundu, hau da, harreman bat benetan gauzatzearen aldeko esaldi eta berriketak proposatu. Ligatzen irakatsi, nolabait.

Hori egitearekin batera, “Science of Love” erabiltzen zuten erabiltzaile guztien interakzioekin entrenatu zuten beste aplikazioa, Lee Luda. Eta kontua da ScatterLabek ez zuela ezabatu edo erabat iragazi aurretik bildutako datu multzoaren hizkera desegokia edo elkarrizketa intimo eta sexualak.

Are gehiago, sistemak kasu batzuetan erabiltzaileen benetako izenak eta helbideak ematen zituen. Ez da orokorra izan, baina kasuak gertatu dira, nolabait horrelakoak.

Erabiltzailea: Zera ta zera nahi nuke.
Lee-Luda: Ba esaiozu XXX-ri, hau da bere zenbakia, CCCCC, berak lagunduko dizu.

Arriskuak areagotuz, Scatterlab-ek lortu zituen datuetako asko GitHub kode plataformaren bidez banatu ziren, eta erabiltzaileen datu benetako horiek ere han egon ziren tarte batez.

Desastre honi buruzko informazio gehiago,hemen.