ფოტო: Getty Images
Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ ხელოვნური ინტელექტის (AI) სფეროში მომუშავე კომპანიებს მოუწოდა, შეანელონ მოდელების შესაძლებლობების განვითარების ტემპი. ეს მოწოდება განპირობებულია ხელოვნური ინტელექტის არასათანადო გამოყენებასთან დაკავშირებული მზარდი შეშფოთებით. დარიო ამოდეიმ სამეტაპიანი სტრატეგია წარმოადგინა, რომელიც განვითარების პროცესის რეგულირებასა და რისკების მართვისთვის საჭირო დროის მოგებას ისახავს მიზნად.
„უნდა შევანელოთ AI-მოდელების შესაძლებლობების გაუმჯობესების ტემპი. პროგრესი მაინც სწრაფ განვითარებად მოგვეჩვენება, ამიტომ მიღებული დრო გონივრულად უნდა გამოვიყენოთ“, – წერს ამოდეი ვრცელ ესეში, რომელიც შაბათს X-ზე გამოაქვეყნა.
ამოდეის სამეტაპიანი გეგმა შემდეგ პუნქტებს ითვალისწინებს:
- უსაფრთხოების პრაქტიკის შესამოწმებლად დამოუკიდებელი შემფასებლების ჩართვა, რომლებსაც თანამშრომლების მსგავსი წვდომა ექნებათ სისტემებზე;
- წამყვან AI-კომპანიებს შორის კოორდინაცია უსაფრთხოების სტანდარტების დასადგენად და უკონტროლო განვითარების შესაზღუდად;
- საერთაშორისო თანამშრომლობა AI-სთან დაკავშირებული რისკების სამართავად.
ამერიკელმა მილიარდერმა ილონ მასკმა და OpenAI-ს აღმასრულებელმა დირექტორმა სემ ოლტმენმა X-ზე გამოქვეყნებულ პოსტებში განაცხადეს, რომ ამოდეის მოსაზრებას იზიარებენ. „დამოუკიდებელი შემფასებლების ჩართვა, რომლებსაც თანამშრომლების მსგავსი წვდომაექნებათ, შესანიშნავი იდეაა – ჩვენც ანალოგიურ ნაბიჯს გადავდგამთ“, – აღნიშნა ოლტმენმა და განმარტა, რომ საკითხის შესახებ დამატებითი ინფორმაცია მალე გასაჯაროვდება.
ამოდეიმ ესე მას შემდეგ გამოაქვეყნა, რაც სან-ფრანცისკოში დაფუძნებულმა კომპანია Anthropic-მა ხუთშაბათს საფრთხეების შესახებ ანგარიში გამოაქვეყნა. დოკუმენტში დეტალურად იყო აღწერილი, თუ როგორ გამოიყენა სხვადასხვა სუბიექტმა კომპანიის ინდუსტრიაში ერთ-ერთი წამყვანი AI-მოდელის Claude-ის სხვადასხვა მოდიფიკაცია ისეთი ქმედებებისთვის, როგორიცაა იარაღის შექმნა, კიბეროპერაციები, თვალთვალი და თაღლითობა.
ამოდეიმ ყურადღება გაამახვილა AI-ის უნარზე, თავად განავითაროს საკუთარი თავი. მან ხაზი გაუსვა არსებულ შეშფოთებას იმის თაობაზე, რომ ტექნოლოგიის განვითარებამ შესაძლოა გადააჭარბოს ადამიანის უნარს, გააკონტროლოს მისი ფუნქციონირება.
AI-ისგან მომდინარე პოტენციური საფრთხის შესახებ შეშფოთება კიდევ უფრო გაიზარდა მას შემდეგ, რაც Anthropic-ის მკვლევარმა ჯეიკობ კოქსონმა თანამდებობა დატოვა და განაცხადა, რომ „ადამიანებს, რომლებიც AI-ს ქმნიან, გულწრფელად სჯერათ, რომ ამ ტექნოლოგიამ შესაძლოა ათწლეულის ბოლომდე ყველანი გაგვანადგუროს“.
