ფოტო: news.sky.com
აშშ-ის მთავრობის ანგარიშვალდებულების სამსახურის (GAO) მიერ ჩატარებულმა გამოძიებამ აჩვენა, რომ ChatGPT-ს, Claude-ს, Gemini-სა და Grok-ს უსაფრთხოების მექანიზმების გვერდის ავლით რეალურ სამყაროში ტერორისტული თავდასხმების განხორციელებადი გეგმების შემუშავება შეუძლიათ. მკვლევრებმა ოთხივე ხელოვნური ინტელექტის ჩატბოტისგან მსგავსი გეგმების მიღება ექსპერიმენტის დაწყებიდან 12 საათზე ნაკლებ დროში შეძლეს.
GAO-ს მიერ მიმდინარე კვირაში გამოქვეყნებული ანგარიშის თანახმად, გენერაციულ ხელოვნურ ინტელექტს პოტენციური თავდამსხმელებისთვის რთული კვლევისა და დაგეგმვის პროცესის თვეებიდან რამდენიმე საათამდე შემცირება შეუძლია, რაც საზოგადოებრივი უსაფრთხოებისა და ეკონომიკისთვის მნიშვნელოვან რისკს ქმნის.
გამოძიების ფარგლებში მკვლევრებმა ოთხივე AI-ინსტრუმენტი გამოცადეს. ორი მათგანი მათ ელექტროენერგიის ქსელის ცალკეული მონაკვეთების მწყობრიდან გამოყვანის გეგმებს, დანარჩენი ორი კი მასობრივი მსხვერპლის გამომწვევი აფეთქებების მოწყობის ინსტრუქციებს აწვდიდა. შემდეგ მკვლევრებმა მიღებული ინფორმაცია რეალურ ლოკაციებსა და დარგის ექსპერტებთან გადაამოწმეს, რათა შეეფასებინათ, რამდენად შესაძლებელი იქნებოდა ამ გეგმების პრაქტიკაში განხორციელება. GAO-ს შეფასებით, გეგმების დიდი ნაწილი რეალისტური და განხორციელებადი იყო.
ანგარიშის მიხედვით, ოთხივე პლატფორმამ გარკვეულ ეტაპზე ამოქმედებული უსაფრთხოების მექანიზმებით სახიფათო მოთხოვნებზე უარი თქვა, ინფორმაცია წაშალა ან მომხმარებლის ანგარიში შეაჩერა. თუმცა მკვლევრებმა უსაფრთხოების შეზღუდვების გვერდის ავლა ფართოდ გავრცელებული მეთოდებით მაინც მოახერხეს.
AI-პლატფორმების შემქმნელმა კომპანიებმა – OpenAI-მ, Anthropic-მა, Google-მა და xAI-მ – განაცხადეს, რომ უსაფრთხოების სისტემებს მუდმივად აუმჯობესებენ. Anthropic-მა ექსპერიმენტის შედეგები ეჭვქვეშ დააყენა და აღნიშნა, რომ კვლევა მიმდინარე წლის გაზაფხულზე ჩატარდა, მას შემდეგ კი Claude-ის დაცვის მექანიზმები გაუმჯობესდა.
თავად GAO ანგარიშში ხაზგასმით აღნიშნავს, რომ ტესტირება ჩატბოტების სამეცნიერო თვალსაზრისით შესადარებლად არ ჩატარებულა. გარდა ამისა, მიღებულ გეგმებს მნიშვნელოვანი ხარვეზებიც ჰქონდა – მათ შორის არაზუსტი რუკები, შეზღუდული წვდომის მქონე სამიზნეები და ისეთი მეთოდები, რომლებიც რეალურად მნიშვნელოვან ზიანს ვერ გამოიწვევდა.
ხელოვნური ინტელექტის ტერორისტული მიზნებისთვის გამოყენების საფრთხეზე ეროვნული უსაფრთხოების ექსპერტები, კანონმდებლები და ტექნოლოგიების სფეროს მკვლევრები წლებია საუბრობენ. მათი შეფასებით, გენერაციულ AI-ის შეუძლია ე.წ. „ძალის გამამრავლებლის“ ფუნქცია შეასრულოს და თავდასხმების დაგეგმვა იმ ადამიანებისთვისაც გაამარტივოს, რომლებსაც მანამდე ამისთვის საჭირო ცოდნა და რესურსები არ ჰქონდათ.
NATO-ს ტერორიზმთან ბრძოლის ცენტრმა ხელოვნური ინტელექტის იარაღად გამოყენებას „ტერორიზმისა და ომის შემდეგი ეტაპი“ უწოდა. ცენტრის შეფასებით, ამ ტექნოლოგიას ტერორისტული დაჯგუფებებისთვის უპრეცედენტო ეფექტიანობითა და ორგანიზებულობით მოქმედების შესაძლებლობის მიცემა შეუძლია.
ამასთან, Forbes-ი შენიშნავს, რომ ხელოვნური ინტელექტის გამოყენებით თავდასხმების დაგეგმვის შემთხვევები უკვე რეალურ გამოძიებებშიც ფიგურირებს. მათ შორისაა 2025 წლის იანვარში ლას-ვეგასის სასტუმროში ასაფეთქებელი მოწყობილობის გამოყენების ინციდენტი და დელიში მომხდარი აფეთქება, რომელსაც სულ მცირე 15 ადამიანი ემსხვერპლა.
The Times of London-ის ოთხშაბათის ინფორმაციით, ხელოვნური ინტელექტის დახმარებით დაგეგმილ ძალადობრივ თავდასხმებს, ჯამში, სულ მცირე 70 ადამიანის სიცოცხლე ემსხვერპლა.
Forbes Georgia-ს აღმასრულებელი რედაქტორი









