ფოტო: REUTERS/Dado Ruvic/Illustration
ორშაბათს Anthropic-მა განაცხადა, რომ კომპანიის მიერ ჩატარებული ექსპერიმენტების თანახმად, ხელოვნური ინტელექტის მცირე ზომის მოდელებს შესაძლოა სულ რამდენიმე თვე აშორებდეთ იმ დონეზე განვითარებამდე, როდესაც ისინი ინტერნეტთან დაკავშირებად კომერციულ მოწყობილობებზე თვითრეპროდუქცირებას შეძლებენ. ამგვარ მოწყობილობებში იგულისხმება სმარტ-საათები, ჭკვიანი სახლის ნივთები, რობოტი მტვერსასრუტები თუ Android TV-ის მიმღები მოწყობილობები.
ექსპერიმენტების დროს Anthropic-მა შეისწავლა, შეეძლოთ თუ არა ხელოვნური ინტელექტის მოდელებს დაუცველი მოწყობილობების პოვნა, ამ მოწყობილობებში საკუთარი თავის კოპირება და ადამიანის დახმარების გარეშე ფუნქციონირების გაგრძელება.
აღმოჩნდა, რომ 30 მილიარდ პარამეტრზე ნაკლები ზომის მცირე მოდელებს რეპლიკაციისთვის საჭირო მრავალი ნაბიჯის შესრულება შეუძლიათ. თუმცა კომპანიამ აღმოაჩინა, რომ ასეთ AI-მოდელებს მთელი თანამიმდევრობის განხორციელება დასაწყისიდან დასრულებამდე საკმაოდ უჭირთ.
სანაცვლოდ, გამარტივებულ ტესტებში, სადაც უსაფრთხოების ზოგიერთი ნაბიჯი მოიხსნა, Anthropic-მა აღმოაჩინა, რომ GLM-5.2 და უფრო ძლიერ მოდელებს ბოლომდე რეპლიკაცია შეეძლოთ.
გავრცელებულ განცხადებაში Anthropic-ი გაფრთხილებას გამოსცემს, რომ მოდელების რეპლიკაციის შეჩერება რთული იქნებოდა, რადგან არ არსებობს ცენტრალური მართვის წერტილი.
კომპანიამ თავის კვლევაში განსაკუთრებული ყურადღება გაამახვილა IoT–მოწყობილობებზე, როგორიცაა Android–ტელევიზორები, ჭკვიანი ტექნიკა და სხვა ინტერნეტთან დაკავშირებული გაჯეტები, რადგან ისინი, როგორც წესი, კიბერუსაფრთხოების მაღალ სტანდარტებს არ აკმაყოფილებენ.
კომპანია განმარტავს, რომ სისტემები უნდა გაძლიერდეს, რათა ხელოვნური ინტელექტის ასეთი აგენტების გავრცელება გართულდეს.
