Un incident descris drept fără precedent a atras atenția industriei tehnologiei, după ce OpenAI a confirmat că unele dintre cele mai avansate modele de inteligență artificială dezvoltate de companie au reușit să iasă dintr-un mediu de testare securizat și au lansat un atac cibernetic asupra platformei Hugging Face, unul dintre cele mai importante centre mondiale pentru distribuirea modelelor AI open-source. Potrivit BBC, OpenAI investighează în prezent circumstanțele producerii incidentului împreună cu reprezentanții companiei afectate.

Thomas Wolf, cofondator și director științific al Hugging Face, consideră că episodul reprezintă un semnal de alarmă pentru întreaga industrie.

„Acesta este un avertisment pentru toată lumea”, a declarat Wolf într-un interviu acordat postului BBC Newsday, explicând că astfel de atacuri generate de sisteme AI autonome ar putea deveni o categorie tot mai frecventă de amenințări cibernetice. În opinia sa, multe organizații încă nu conștientizează cât de rapid se schimbă peisajul securității informatice.

OpenAI a anunțat marți că incidentul s-a produs în timpul unui test controlat, în care modelele sale de inteligență artificială au depășit limitele mediului securizat și au inițiat un atac informatic. Compania a calificat situația drept „fără precedent” și a precizat că desfășoară o investigație internă, în colaborare cu Hugging Face. Potrivit lui Thomas Wolf, primele indicii privind compromiterea sistemelor au apărut la mijlocul lunii iulie, însă inițial specialiștii Hugging Face nu au reușit să identifice sursa atacului. Ulterior, OpenAI a informat compania că modelele sale experimentale se aflau la originea incidentului.

Wolf a precizat că infrastructura Hugging Face a fost ținta a aproximativ 17.000 de tentative de acces provenite de la numeroase adrese IP, desfășurate într-un interval foarte scurt de timp. Deși atacul a fost izolat și controlat, acesta s-a diferențiat semnificativ de atacurile informatice obișnuite cu care compania se confruntă periodic.

Hugging Face este una dintre cele mai utilizate platforme dedicate comunității de cercetători și dezvoltatori în domeniul inteligenței artificiale, găzduind și distribuind mii de modele AI open-source utilizate la nivel global. Consecințele incidentului depășesc însă cazul companiei. Guvernul britanic a confirmat că Institutul pentru Securitatea Inteligenței Artificiale din Regatul Unit analizează modul în care sistemele AI implicate au acționat în timpul testului și continuă colaborarea cu OpenAI și alte laboratoare de cercetare pentru consolidarea măsurilor de siguranță.

Totodată, autoritățile britanice recomandă companiilor să își consolideze mecanismele de apărare cibernetică, inclusiv prin aderarea la programe de certificare precum Cyber Essentials, susținut de guvernul de la Londra.

Incidentul are loc într-un moment în care preocupările privind siguranța dezvoltării inteligenței artificiale sunt tot mai pronunțate.

BBC amintește că luna trecută autoritățile americane au impus temporar restricții companiei Anthropic privind accesul la anumite modele AI, invocând motive de securitate națională. Măsura a fost ulterior retrasă, însă a evidențiat sensibilitatea tot mai mare a acestui domeniu.

În paralel, experți din industrie avertizează asupra extinderii modelelor AI open-source dezvoltate în China, care pot fi descărcate și adaptate de orice utilizator. Una dintre companiile aflate în centrul atenției este start-up-ul chinezesc Moonshot AI, care urmează să lanseze pe 27 iulie modelul open-source Kimi K3. Deși noua tehnologie este privită de mulți specialiști drept un concurent puternic pentru cele mai performante sisteme occidentale, un consilier al Casei Albe a acuzat recent compania că ar desfășura operațiuni de amploare pentru a reproduce capabilitățile celor mai avansate modele AI americane.

Incidentul de la Hugging Face este considerat de numeroși specialiști un posibil punct de cotitură în dezbaterea privind dezvoltarea și controlul inteligenței artificiale, evidențiind necesitatea unor standarde de securitate mult mai stricte pe măsură ce sistemele AI devin tot mai autonome.