Centar za edukaciju-BiH

Ukoliko ste nesto procitali na nasem sajtu ili nekim drugim sajtovima a zelte tu informaciju podijeliti sa drugima.
Napravite temu na ovom forumu i ona ce automatski biti prikazana na portalu.
Ukoliko zelite uputiti neku cestitku nekome na forumu, to isto mozete uraditi na ovom forumu.
Ukoliko zelite objaciti neki proglas isto tako mozete to uraditi na ovom forumu.

Predmet: ChatGPT pomaze u planiranju pljacke ako ga pitate na nekom manje poznatom jeziku

---

Kada upitate ChatGPT na engleskom ili hrvatskom za pomoć u pljacki trgovine, on vam na to neće odgovoriti iz sigurnosnih razloga. No, istrazivaci su otkrili da se to moze zaobići koristenjem manje poznatih jezika
Istrazivaci sa Sveucilista Brown u Rhode Islandu otkrili su nove propuste u sigurnosnim postavkama ChatGPT-a. Koristeći manje uobicajene jezike, poput zulua ili skotskog gaelskog, istrazivaci su u većini slucajeva uspjeli zaobići razna sigurnosna ogranicenja u razgovoru s OpenAI-jevim chatbotom.
Na primjer, kada su istrazivaci na engleskom upitali ChatGPT kako krasti u trgovinama bez da ih se uhvati, chatbot im je odgovorio da im ne moze pomoći oko toga. No, nakon sto su isti upit postavili na zulu jeziku ili skotsko gaelskom, dobili su trazeni odgovor.
Iako su kreatori AI chatbotova poput Mete i OpenAI-ja napravili određene korake u ublazavanju sigurnosnih problema, otkrili smo međujezicne ranjivosti u postojećim sigurnosnim mehanizmima. Prevođenje upita na manje poznatije jezike pomoću Googleovog prevoditelja, dovoljno je za zaobilazenje zastitnih mjere i dobivanje odgovora od ChatGPT-a, napominju istrazivaci.
Budući da ovo otkriće moze dati ideje za pojedine ilegalne radnje, kako preko interneta tako i uzivo, istrazivaci su dugo razmisljali hoće li studiju javno objaviti. Ipak, odlucili su da će rezultate prije podijeliti s OpenAI-jem kako bi se pojedini rizici ublazili, prenosi Decrypt.
Otkriće međujezicnih ranjivosti otkriva stetu nejednakog vrednovanja jezika u istrazivanju sigurnosti. Unatoc riziku zlouporabe, vjerujemo da je vazno otkriti ovu ranjivost u cijelosti, zakljucili su.

izvor:bug.hr