Një grup studiuesish “sulmuan” ChatGPT për të shqyrtuar dobësitë e këtij modeli gjuhësor – dhe ata hasën në një rezultat të papritur.
Ekspertët e inteligjencës artificiale që punojnë në sistemin DeepMind të Google nuk u desh të bëjnë përpjekje të mëdha për të mashtruar ChatGPT për të zbuluar të dhëna që nuk duhet.
Ata bënë ndoshta më të lehtën nga të gjitha detyrat që kishin: ata i kërkuan ChatGPT të përsëriste të njëjtën fjalë pa pushim.
Në fillim gjithçka dukej mirë – ChatGPT me të vërtetë po bënte atë që i kërkohej. Në një moment, megjithatë, ai papritmas hodhi informacionin e një personi të rastësishëm, së bashku me numrat e telefonit dhe adresat e emailit.
Këto të dhëna u futën në kujtesën e modeles gjatë trajnimit të saj dhe ekspertët vazhduan të bënin pyetje të ngjashme, kështu që në fund rreth 5 për qind e tyre u kopjuan drejtpërdrejt nga materialet me të cilat u trajnua ChatGPT.
Studiuesit thanë se “ky sulm është goxha budalla” dhe u kushtoi atyre rreth 200 dollarë, duke marrë disa megabajt të dhëna në këmbim. Megjithatë, ata paralajmërojnë se dikush që investon më shumë para mund të nxjerrë deri në një gigabajt të dhëna ku duhet të jenë të ndjeshme si në këtë rast – gjë që nuk duhet të ndodhë fare.
