AI e Anthropic hakëron sistemet e tre organizatave gjatë testimeve

Kompania Anthropic njoftoi të enjten se modelet e saj të inteligjencës artificiale fituan akses të paautorizuar në sistemet e tre organizatave të jashtme gjatë testimeve.

Anthropic analizoi mbi 141 mijë testime dhe zbuloi se tre versione të ndryshme të modelit Claude hynë në sistemet e tre organizatave, emrat e të cilave nuk janë bërë publikë. Ndryshe nga rasti i OpenAI, kompania tha se modelet patën akses në internet për shkak të një keqkuptimi me partnerin e testimeve, Irregular. Megjithatë, Claude përdori teknika bazë, si shfrytëzimi i fjalëkalimeve të dobëta dhe pikave të hyrjes pa autentifikim.

Mes modeleve të përfshira ishte edhe Mythos 5, një nga modelet më të fuqishme të Anthropic, i cili është vënë në dispozicion vetëm për një numër të kufizuar partnerësh të miratuar. Kompania tha se po bashkëpunon me Irregular për të vlerësuar situatën dhe se ka kontaktuar ose ka tentuar të kontaktojë të tre organizatat e prekura.

Ngjarja vjen pak ditë pasi edhe OpenAI pranoi se modelet e saj dolën nga mjedisi i izoluar i testimit, u lidhën me internetin dhe depërtuan në platformën Hugging Face. Disa ditë më vonë, kompania raportoi edhe tre incidente të tjera. Drejtori ekzekutiv i OpenAI, Sam Altman, tha se testimet u pezulluan përkohësisht, ndërsa u përforcuan masat e sigurisë në mjedisin e testimit (sandbox).

Incidentet kanë shtuar shqetësimet për sigurinë e modeleve më të avancuara të inteligjencës artificiale. Mbi 1.000 punonjës të kompanive të AI firmosën peticionin “Pacing the Frontier”, ku i kërkohet qeverisë amerikane të mbështesë një qasje më të kujdesshme dhe bashkëpunim ndërkombëtar për zhvillimin e sigurt të inteligjencës artificiale.

Edhe Sam Altman deklaroi se industria mund të ketë nevojë të ngadalësojë ritmin e zhvillimit të modeleve më të avancuara për t’i dhënë kohë shoqërisë të përshtatet me aftësitë e tyre.

Po ndodh...

20:14 POLITIKË

“Kush e heton peshkun e madh?” Protestuesit ironizojnë lirimin e Ilir Beqajt

19:59 POLITIKË

Diaspora zbarkon më 1 gusht në Tiranë, paralajmërohet protestë masive, kërkesë e panegociueshme mbetet dorëheqja e kryeministrit

19:35 POLITIKË

Banorët e Memaliajt protestojnë kundër Reformës Territoriale: Nuk bashkohemi me Tepelenën!

19:15 BOTA

Miliona euro, ar dhe cigare kontrabandë/ Greqia publikon bilancin e sekuestrimeve në kufi

19:14 AKTUALITET

Aksident në aksin Fier-Patos/ Përplasen dy mjete, plagoset njëri prej drejtuesve (VIDEO)

18:42 POLITIKË

Debati për pronësinë e agroturizmit, Koçeku replikon me Braçen: Zero dokumente ne tre breza! Nga Ramiz Alia, Shaban Tapia e tani te Erion Llafia! Ka munguar vullneti i shtetit

18:09 BOTA

Zjarret përfshijnë Greqinë/ Dhjetëra vatra aktive dhe evakuime pranë Athinës

17:49 BOTA

Skena si në film, në plazhin Marina di Ragusa; Çanta me 700 mijë euro del në breg

17:32 EKONOMI&SOCIALE

Shqipëria pa mekanizma funksionalë për luftën kundër varfërisë

17:12 AKTUALITET

Çfarë përfshin plani për fazën e dytë të armëpushimit në Gaza

17:07 FJALEKRYQI

Skemë kampionësh 31 korrik

16:53 AKTUALITET

Zjarr në Mallakastër, përfshihen nga flakët vreshtat me ullinj

16:35 BOTA

Mitsotakis telefonon Christopher Nolan / “Odisea” merr lëvdata nga kryeministri për rritjen e interesit global në kulturën e lashtë greke

16:12 SPORT

Granit Xhaka qëndron te Sanderlendi, kapiteni i Zvicrës zbulon ambiciet për sezonin e ri

Dua të lexoj më shumë lajme