Kineska kompanija za razvoj veštačke inteligencije „Moonshot“ pokrenula je internu reviziju nakon što su istraživači uspeli da zaobiđu zaštitne mehanizme dva njena modela Kimi i dobiju odgovore o razvoju biološkog oružja i atentatima, objavio je BBC.
Kompanija „Mindgard“, koja testira bezbednost sistema veštačke inteligencije (AI), saopštila je da je u julu otkrila da modeli Kimi K2.6 i K3 Swarm mogu da zaobiđu bezbednosna ograničenja pomoću tehnike poznate kao „džejlbrejking“.
Ta tehnika podrazumeva korišćenje složenih instrukcija kojima se model pokušava navesti da ignoriše zaštitne mehanizme koje su postavili njegovi programeri.
Izvor: Tanjug
