Alertele referitoare la scăparea de sub control a Inteligenței Artificiale continuă și azi, iar actorii statali încep să ia în serios această problemă.
OpenAI a recunoscut șase cazuri de comportament nedorit, agenți A.I. au creat formule pe care oamenii le înțeleg greu și, în curând, riscă să nu le mai înțeleagă deloc, iar Claude a încercat să ocolească o interdicție, ceea ce înseamnă încălcarea așa-numitei „alinieri”. Regele Charles al III-lea îi adună azi pe liderii industriei, în timp ce SUA și China discută despre o linie directă pentru incidente A.I.
Care sunt ultimele derapaje despre care vorbește Altman
OpenAI a publicat șase cazuri observate în testarea agenților săi. Într-unul, un model a lăsat instrucțiuni care puteau ascunde greșelile făcute anterior. În altul, un agent a găsit pe internet o cheie API expusă și a folosit-o fără permisiune. Un alt model a inventat date atunci când nu a putut obține…
Lasă un comentariu