ფოტო: AFP via Getty Images
Nvidia-მ უსაფრთხოების ახალი პლატფორმა წარადგინა, რომელიც AI-აგენტების მიერ უსაფრთხოების წესების დარღვევის პრევენციას და მათთვის სხვა სისტემებზე უნებართვო წვდომის მოპოვებაში ხელის შეშლას უზრუნველყოფს. Open Agent Safety Platform-ი საბაზისო უსაფრთხოების სისტემაა და AI-აგენტების როგორც ტესტირების, ისე რეალურ გარემოში გამოყენებისას, უსაფრთხოების გაუმჯობესებას ისახავს მიზნად.
ამერიკული კომპანიის განმარტებით, AI-აგენტების უსაფრთხოების ახალი პლატფორმის შემუშავებისკენ მათ ბოლო პერიოდში მომხდარმა ინციდენტებმა უბიძგა. აღნიშნული ინციდენტების შედეგად კი გამოჩნდა, რომ AI-კომპანიებს ხანგრძლივად მოქმედ აგენტებზე მეტი კონტროლი სჭირდებათ.
Nvidia-ს განცხადებაში კონკრეტული ინციდენტი მითითებული არაა, თუმცა კომპანიის წარმომადგენელმა რამდენიმე მედიასაშუალებას განუცხადა, რომ ახალ პლატფორმას შესაძლოა მათთვის ივლისში მომხდარი შემთხვევა აეცილებინა. საუბარია OpenAI-ის AI-აგენტის მიერ სატესტო გარემოს უსაფრთხოების წესების დარღვევასა და ბრძანების გარეშე, Hugging Face-ის სისტემაში შეღწევის ფაქტზე.
უსაფრთხოების სისტემა ორ ძირითად კომპონენტს მოიცავს. პირველი, Nvidia OpenShell-ი — AI-აგენტებისთვის მუშაობის კონკრეტულ წესებსა და საზღვრებს ადგენს. ხოლო მეორე კომპონენტი, Sentry, Nvidia-ს BlueField-ის ჩიპებზე მუშაობს და, თუ AI-აგენტი დადგენილი საზღვრების გადალახვას შეეცდება, მას მოქმედების გაგრძელების საშუალებას არ აძლევს და იზოლირებას უკეთებს.
Nvidia-ს ინფორმაციით, ახალ უსაფრთხოების პლატფორმაზე მასთან ისეთი კომპანიები თანამშრომლობენ, როგორებიც არიან Microsoft-ი, Palantir-ი, Hugging Face, SpaceXAI და CrowdStrike–ი. საინტერესოა, რომ ამ ჩამონათვალში არ არის OpenAI. თუმცა, Nvidia თანამშრომლობს Anthropic-თან, რათა Claude-ის AI-აგენტების სისტემაში უსაფრთხოებისა და კონტროლის დამატებითი ეტაპები დანერგოს.
