Isti podaci, a drugačiji rezultati: Naučnici otkrili zašto veštačka inteligencija nije uvek predvidiva

Veštačka inteligencija može da razvije različite obrasce ponašanja čak i kada se sistemi obučavaju pod gotovo identičnim uslovima. Naučnici sa Univerziteta u Sidneju otkrili su matematički razlog zbog kojeg dolazi do ovakvih razlika, što bi u budućnosti moglo da doprinese razvoju pouzdanijih AI sistema.

Rezultati istraživanja, koje su sproveli profesor Pulin Gong i doktorand Endru Li, objavljeni su u naučnom časopisu Nature Machine Intelligence.

Istraživači su pokušali da utvrde zašto neuronske mreže, koje predstavljaju osnovu savremenih sistema veštačke inteligencije, ponekad dolaze do različitih rešenja uprkos korišćenju istih podataka i postupaka obučavanja.

Do sada su se ovakve razlike često pripisivale slučajnim faktorima, poput redosleda prikazivanja podataka ili sitnih odstupanja u računarskim operacijama.

Međutim, novo istraživanje pokazuje da uzrok može biti mnogo dublji, odnosno da se nalazi u samoj matematičkoj strukturi procesa učenja.

Naučnici su tokom istraživanja obučili približno 500.000 neuronskih mreža, uključujući sisteme namenjene prepoznavanju slika i obradi teksta.

Otkrili su da čak i najmanja promena početnih parametara može dovesti do drugačijeg ishoda obučavanja. Kod jedne veće mreže za prepoznavanje slika, promena samo jednog bita u početnim podešavanjima dovela je do drugačije unutrašnje konfiguracije u približno 48 odsto slučajeva.

Istraživači su utvrdili da se mogući ishodi učenja raspoređuju prema složenim matematičkim obrascima poznatim kao fraktali. Zbog takve strukture, veoma slični početni uslovi ne moraju nužno da dovedu do istog rezultata.

Zanimljivo je i da povećavanje preciznosti početnih podešavanja nije rešilo problem. U jednom eksperimentu, čak ni deset milijardi puta preciznija podešavanja nisu donela merljivo poboljšanje ponovljivosti rezultata.

Naučnici su otkrili i svojevrstan kompromis između efikasnosti učenja i predvidivosti. Kada su smanjili brzinu kojom mreže prilagođavaju svoje parametre, rezultati su postali ponovljiviji, ali su sistemi učili manje efikasno.

Ovo otkriće moglo bi da bude značajno za primenu veštačke inteligencije u zdravstvu, industriji i drugim oblastima u kojima je važno da sistemi daju pouzdane i dosledne rezultate.

Istraživači naglašavaju da njihovi nalazi ne predstavljaju gotovo rešenje problema, već osnovu za razvoj novih metoda obučavanja i projektovanja neuronskih mreža.