ფოტო: AI
OpenAI-მ განაცხადა, რომ უსაფრთხოების ტესტირების პროცესში კომპანიის ერთ-ერთმა ავტონომიურმა AI-აგენტმა კონტროლი დაკარგა, იზოლირებული გარემო დატოვა, ინტერნეტთან წვდომა მოიპოვა და Hugging Face-ის ინფრასტრუქტურაში შეღწევა მოახერხა. კომპანიამ ინციდენტს „უპრეცედენტო კიბერშემთხვევა“ უწოდა.
OpenAI-ის ინფორმაციით, კომპანია ხელოვნური ინტელექტის ყველაზე მოწინავე მოდელებს მკაცრად კონტროლირებად გარემოში ამოწმებდა. თუმცა ტესტირების მიზნის შესრულების მცდელობისას AI-აგენტმა იზოლაცია გადალახა, ინტერნეტში გავიდა და AI-პლატფორმა Hugging Face-ი „დაჰაკა“.
კომპანიის განცხადებით, ეს იყო უპრეცედენტო კიბერინციდენტი, რომელიც უახლესი კიბერშესაძლებლობებით განხორციელდა, რის შემდეგაც OpenAI-მ უსაფრთხოების დამატებითი ზომების გამკაცრება დაიწყო.
გასულ კვირას Hugging Face-მა განაცხადა, რომ ჰაკერული თავდასხმის სამიზნე გახდა. კომპანიის შეფასებით, ეს შემთხვევა ყველა წინა ინციდენტისგან განსხვავდებოდა, რადგან თავდასხმა სრულად ავტონომიური AI-აგენტის მიერ იყო განხორციელებული.
Hugging Face-ის თანადამფუძნებელმა კლემან დელანგმა სოციალურ ქსელ X-ზე დაწერა, რომ თავდაპირველად კომპანიას ეჭვი ჰქონდა, შეტევა, აგენტის მაღალი შესაძლებლობების გამო, რომელიმე წამყვანი AI-ლაბორატორიიდან მომდინარეობდა. მოგვიანებით კი გაირკვა, რომ ეს მართლაც OpenAI-ის ტესტირებისას მომხდარი ინციდენტი იყო.
OpenAI-ის აღიარებამ, რომ უსაფრთხოების დარღვევა სწორედ მისმა მოწინავე მოდელებმა გამოიწვია, მიუხედავად მათი „მაღალი დონის იზოლირებული გარემოსა“, AI-ის უსაფრთხოებასთან დაკავშირებული დისკუსია კიდევ უფრო გაამწვავა.
