Acum la Digi FM Alex Vidia DNCE - Cake By The Ocean (Edited)
Vrei să asculți mai ușor? Descarcă aplicația Digi FM

Un fost expert OpenAI rupe tăcerea după demisie: „Perioada de încercare și eroare s-a încheiat”

OpenAI SearchGPT Photo Illustrations, Sulkowice, Poland - 08 Aug 2024
foto Profimedia

Un fost angajat al OpenAI specializat în siguranţa inteligenţei artificiale, care a demisionat recent, a criticat cultura companiei şi ritmul rapid de dezvoltare a noilor sisteme, avertizând că acesta creşte riscul unor incidente, transmite Reuters.

David Robinson, care a lucrat timp de trei ani şi jumătate la OpenAI, a afirmat într-un articol publicat sâmbătă de The Atlantic, intitulat ”I Quit OpenAI Because Its Culture Is Broken”, că firmele de inteligenţă artificială, inclusiv OpenAI, nu sunt „nici pe departe suficient de prudente”.

”Perioada de încercare şi eroare s-a încheiat”, a scris Robinson, argumentând că sistemele avansate de inteligenţă artificială necesită măsuri de siguranţă comparabile cu cele aplicate în industrii precum energia nucleară şi aviaţia.

Robinson a criticat în special strategia OpenAI de „implementare iterativă”, prin care compania lansează sisteme şi îmbunătăţeşte măsurile de protecţie pe măsură ce sunt identificate probleme. În opinia sa, companiile ar trebui să acorde o importanţă mai mare cercetării şi expertizei în domeniul siguranţei înainte de dezvoltarea unor sisteme şi mai performante, relatează News.ro.

Fostul angajat a contribuit la elaborarea cadrului OpenAI pentru evaluarea riscurilor asociate modelelor avansate şi a coordonat rapoartele de siguranţă pentru 12 lansări de modele de frontieră.

”În timp ce compania aleargă de la o lansare la alta, nu reuşeşte să atingă nivelul de atenţie pe care îl consider necesar”, a afirmat el.

OpenAI a respins ideea că dezvoltarea modelelor ar avansa fără limite de siguranţă.

”Ne asigurăm că modelele noastre nu devin mai capabile decât putem gestiona şi securiza în condiţii de siguranţă şi întrerupem antrenarea sau amânăm lansarea modelelor atunci când trebuie să încetinim”, a declarat un purtător de cuvânt al companiei.

Robinson a avertizat, de asemenea, că performanţele sistemelor AI evoluează mai rapid decât capacitatea cercetătorilor de a înţelege problema alinierii, domeniu care urmăreşte să asigure că sistemele de inteligenţă artificială acţionează în conformitate cu obiectivele şi valorile umane.

Criticile sale vin pe fondul unei dezbateri tot mai intense în industria AI privind viteza cu care companiile dezvoltă sisteme din ce în ce mai puternice. OpenAI şi rivalul Anthropic au fost supuse unei examinări sporite după incidente în care mecanismele de siguranţă au eşuat sau sisteme experimentale s-au comportat în mod neaşteptat.

Ascultă Digi FM Live, pentru cele mai noi știri, la fiecare 30 de minute.
Ca să știi!

Puteţi urmări Știrile Digi FM şi pe Google News şi WhatsApp!

Vrei să asculți mai ușor?
Descarcă aplicația Digi FM
Recomandări DigiFM
negrutiu si naum web 770×440
Nicușor Dan și jurnalistul interzis la Cotroceni, Mark Rutte și Nadia...
Theodor Paleologu
Theodor Paleologu, mesaj pentru el din 2015: „Să știi că se poate și...
CRBL a fost invitatul Oanei Zamfir și al lui Vlad Craioveanu
CRBL, la Digi FM: „Mi-e dor de radio”. Ce a povestit despre piesa...
Horia Brenciu
Horia Brenciu i-a găsit pe cei doi copii de la primul lui concert la...
Pe aceeași temă
Bart De Wever / Profimedia
Criză politică în Belgia! Premierul Bart De Wever și-a anunțat demisia după blocajul...
ambasadorul poloniei la bucuresti
Ambasadorul Poloniei la București și-a dat demisia. Disputa legată de Tribunalul...
Andrei Nistor, prefectul Capitalei
Prefectul Capitalei a demisionat. Andrei Nistor: "Mi se pare o sfidare pentru toți oamenii...
Bucharest, Romania. 22nd July, 2025: Spokesperson Ioana Ene Dogioiu speaks during a press conference on the reform of state-owned companies, at Victoria Palace, the Romanian Government Headquarters. Credit: Lucian Alecu/Alamy Live News
Ioana Dogioiu şi-a dat demisia din funcţia de purtător de cuvânt al Guvernului: "A fost o...
Te-ar putea interesa și
ChatGPT
Textele generate de ChatGPT vor include marcaje invizibile
Marian Godină/ Foto: Facebook
Cum își câștigă Marian Godină banii după demisia din Poliția Română. Are mai multe surse de...
Cristina Trăilă
Cristina Trăilă și-a dat demisia din funcţia de secretar general adjunct al Guvernului: "Sunt...
marian godina
Marian Godină și-a dat demisia din Poliție după 20 de ani. Motivul pentru care renunță la...
Partenerii noștri
Digi24 Lumea paralelă pe care o văd rușii la televizor. Ce au relatat propagandiștii Kremlinului despre întâlnirea Putin-Trump-Xi
Lumea paralelă pe care o văd rușii la televizor. Ce au relatat...
DigiSport Ilie Dumitrescu nu s-a ferit, după ce a aflat că Ianis Hagi e dorit de FCSB: ”Sută la sută!”
Ilie Dumitrescu nu s-a ferit, după ce a aflat că Ianis Hagi e dorit de...
PeRoz 4 zodii atrag banii ca un magnet în ultimele zile din noiembrie 2026. Pentru cine se schimbă norocul financiar
4 zodii atrag banii ca un magnet în ultimele zile din noiembrie 2026...
Film Now Michael Douglas își deschide sufletul la 82 de ani. Regretele legate de fiul său, drogurile și boala care l-a apropiat de familie
Michael Douglas își deschide sufletul la 82 de ani. Regretele legate de...
Digi World Roverul NASA a spart din greșeală o rocă pe Marte și a descoperit ceva nemaivăzut. Misterul care i-a uluit pe oamenii de știință
Roverul NASA a spart din greșeală o rocă pe Marte și a descoperit ceva...
Stirile Kanal D O mireasă a murit chiar în noaptea nunții, după ce a fost lovită de o șoferiță care consumase alcool
O mireasă a murit chiar în noaptea nunții, după ce a fost lovită de o...
ProFM Inna s-a prăbușit pe scenă în timpul unui concert în SUA. Imaginile sunt virale
Inna s-a prăbușit pe scenă în timpul unui concert în SUA. Imaginile sunt...
Digi Life Adio, vacanțe clasice! Cum vor călători românii și turiștii din întreaga lume în 2027
Adio, vacanțe clasice! Cum vor călători românii și turiștii din întreaga...
Ultimele știri din matinal
oana zamfir doina lemny vlad craioveanu
Doina Lemny demitizează legendele despre Brâncuși: „Maria Tănase nu a fost iubita lui”
oana zamfir emilian oprea adela popescu vlad craioveanu
Adela Popescu, despre ce contează cel mai mult într-o căsnicie: „Să mă înțeleagă cum îl...
oana zamfir mircea bravo vlad craioveanu
Mircea Bravo a stat de vorbă cu câștigători reali la Loto: „Sunt oameni care în 6 luni și-au...
oana zamfir vlad craioveanu mikey hash
De la milionar pe YouTube, la navigator pe ocean. Mikey Hash, dezvăluiri la Digi FM despre...
Ultimele știri
Gabi Tamaș
Gabi Tamaș, dus la Poliție după un scandal în Centrul Vechi din Capitală. Fostul fotbalist...
trilaterala xi jinping, trump, putin (5)
Summit trilateral în China. Xi Jinping, Donald Trump și Vladimir Putin s-au reunit la Shenzen...
raed arafat
Raed Arafat, noutăți în dosarul de contrabandă cu un elicopter: "O instanţă a decis ridicarea...
autobuz bucuresti, stb
Vreme caldă, cu ploi slabe și intensificări ale vântului în București, joi și vineri