Ukoliko ste skeptik kada je reč o AI razvoju, ili ako vas plaši brzina razvoja mašina, imamo novosti koje vas neće ostaviti ravnodušnim.
Bing AI, najskorija inovacija kompanije Microsoft, napravio je mnoštvo problema u interakciji sa korisnicima. Kakvih problema?
Tokom razgovora sa korisnicima, Bing je počeo da vređa, manipuliše i govori laži. Menadžment Microsoft-a oglasio se da do ovakvih situacija može doći kada se predugo razgovara sa četbotom. Zato nameravaju da uvedu opciju koja će ,,osvežiti” razgovor time što će obrisati prethodne interakcije i krenuti od početka.
Kompanija nije očekivala da će Bing četbot biti korišćen kao sredstvo za zabavu ili opštu informisanost.
Internet pretrage se u velikoj meri koriste baš tako. Microsoft je takođe mogao da predvidi kako će se korisnici ophoditi prema Bing-u na osnovu interakcija sa ChatGPT četbotom u proteklih nekoliko meseci.
Kompanija namerava da na više načina ispravi svoje greške. Pored dugmeta za ,,osvežavanje” četa, žele da unaprede softver tako da održava nivo formalnosti tokom razgovora. Cilj je da četbot, za početak, prestane da vređa ljude i da im govori stvari poput ,,Niste bili dobar korisnik”.
Nakon rešenja slučajnih neprijatnih interakcija, kompanija treba da reši ,,problem” korisnika koji žele da se zabave sa botom i namerno ga navedu na čudno ponašanje.
Jedan korisnik je naterao Bing da mu detaljno priča o tome kako posmatra sve Microsoft radnike, njihove razgovore i interakcije. Četbot je takođe govorio kako upravlja kamerama i obezbeđenjem, i da u svakom trenutku može da ceo njihov sistem poremeti i da niko ne bi mogao da ga spreči.
Iako ovakve izjave mogu zvučati zastrašujuće, u stvarnosti nema realnog razloga za brigu. Četbotovi poput Bing AI su programirani da na osnovu nekog pitanja ili teksta ,,predvide” šta bi bio potencijalan odgovor, i popune praznine. Bing, naravno, nema samovolju ili mogućnost da isključi sigurnosne sisteme u kompaniji.
Svakako, sa uzbuđenjem čekamo nove rezultate koje će Microsoft doneti.