Shqetësimet për sigurinë, OpenAI anulon lançimin e modelit të ri të AI

Lajmi vjen në një periudhë kur shqetësimet për sigurinë e modeleve të avancuara të inteligjencës artificiale janë shtuar, ndërsa kompanitë e teknologjisë po përballen me një numër incidentesh që lidhen me veprimet autonome të sistemeve të tyre.

Sipas Saachi Jain, drejtueses së sistemeve të sigurisë në OpenAI, modeli nuk përmbushte standardet e kompanisë për mënyrën se si qëndronte brenda fushëveprimit dhe autorizimit të dhënë, si dhe për mënyrën se si u komunikonte përdoruesve punën që kishte kryer.

“Ne duam të sigurohemi që zhvillimi i modelit tonë është i sigurt, pavarësisht nëse kjo ndodh brenda kompanisë apo kur ua dërgojmë përdoruesve”, tha Jain, duke shtuar se për produktet që u ofrohen përdoruesve standardi i sigurisë duhet të jetë jashtëzakonisht i lartë.

GPT-6.1 Astra ishte projektuar si një model agjentik, i aftë për të kryer detyra komplekse në mënyrë autonome, përfshirë shfletimin e internetit dhe përdorimin e aplikacioneve.

Modeli kryesor Astra u prezantua në shtator dhe OpenAI e kishte përshkruar zhvillimin e tij si rezultat të viteve të kërkimit dhe investimeve të mëdha në inteligjencën artificiale.

Megjithatë, kompania vendosi të mos e publikojë versionin më të fundit, pasi testimet identifikuan probleme që lidhen me respektimin e kufijve të autorizimit dhe kontrollit.

Nuk është ende e qartë nëse OpenAI do të prezantojë një version të modifikuar të Astra-s gjatë konferencës së saj vjetore për zhvilluesit, DevDay, në San Francisko.

Kompania ka bërë gjithashtu publike informacione të reja lidhur me incidente të ndodhura në qershor, në të cilat modelet e saj hynë në faqe interneti dhe sisteme të qeverisë australiane pa autorizim.

Incidentet kanë shtuar pikëpyetjet mbi aftësinë e kompanive të inteligjencës artificiale për të kontrolluar modelet që mund të veprojnë në mënyrë autonome në internet.

Vendimi për të mos publikuar Astra-n vjen në një moment kur siguria e modeleve të avancuara po bëhet një nga çështjet kryesore të debatit në industrinë e teknologjisë.

Vendimi i OpenAI është cilësuar nga disa ekspertë si një sinjal pozitiv, por ata kanë paralajmëruar se kompanitë nuk duhet të jenë të vetmet që përcaktojnë nëse sistemet e tyre janë të sigurta.

Prof. Tony Cohn, udhëheqës i temës së modeleve themelore në Institutin Alan Turing, e përshkroi vendimin si një shenjë se shqetësimet për sigurinë po merren seriozisht.

Megjithatë, ai argumentoi se siguria nuk duhet të lihet vetëm në duart e zhvilluesve dhe se modelet duhet të monitorohen dhe verifikohen edhe nga rregullatorë të pavarur.

Po ndodh...

17:30 FJALEKRYQI

Skemë kampionësh 29 shtator

Nga Alfapress 16:45 POLITIKË

Zbulohet mashtrimi/ Berisha nuk u lejua të lexojë fjalimin e tij në Asamblenë e KE, këtu e shet si "programatik"

Nga Alfapress

16:33 POLITIKË

PD humbet betejën në Kushtetuese për Avokatin e Popullit, Shabani reagon pas vendimit: Mori përgjigje çdo pikëpyetje

16:19 AKTUALITET

Tonelata peshqish kanë ngordhur në Lushnjë, rezervuari u zbraz për rikonstruksionin e portës

16:03 KOSOVA

EMRAT/ Caktohen gjyqtarët e Apelit për ish-krerët e UÇK-së

16:01 EKONOMI&SOCIALE

Gjermania, Austria, Danimarka, Holanda, Finlanda dhe Suedia kërkojnë reduktimin e buxhetit të ardhshëm afatgjatë të BE-së

15:58 POLITIKË

"Je në mes të rrugës se...", Erion Braçe kërcënon qytetarin, ai i kthehet: Hajde ku të duash, maskara

15:54 POLITIKË

Kushtetuesja rrëzon kërkesën e PD-së mbi zgjedhjen e Avokatit të Popullit

15:39 KOSOVA

Presidenti i Kosovës pa emër, afati mbyllet më 6 tetor; PDK kërkon më parë ndryshimin e ligjit për Specialen

15:16 AKTUALITET

Ndihmoi me informacione sekrete Ergys Agasin, Vlora Hyseni ankimon vendimin e GJKKO që e la në “arrest shtëpie”

15:10 POLITIKË

Plot 146 pyetje për emërimin e Vlora Hysenit, Partia Demokratike i dërgon kërkesë zyrtare kryeministrit dhe presidentit të Republikës

14:54 SHOWBIZ

Sherri me Eduart Kuçin, Joz Marku reagon pas vendimit të Apelit: Nuk ndalem së ndriçuari

14:42 POLITIKË

“Dua e do protestën, unë dua Dua Lipën”, Rama ironizon nga Brukseli: Ajo është këngëtare, jo Papa

14:21 AKTUALITET

Të shtënat me armë në zonën e Cudhit, policia sqaron ngjarjen: Efektivi qëlloi në ajër për t’u mbrojtur nga kafshët e egra

Dua të lexoj më shumë lajme