ფოტო: edtechinnovationhub.com
ხელოვნური ინტელექტის კომპანია Anthropic-ი Claude-ის ჩატბოტების მიმართ მომხმარებელთა ქცევის წესებს ამკაცრებს. კომპანიის განახლებული პოლიტიკის თანახმად, მომხმარებლებს მოდელების მიმართ „ხანგრძლივი და უმიზეზო შეურაცხმყოფელი ან სასტიკი ქცევა“ აეკრძალებათ.
Anthropic-ის განმარტებით, ახალი შეზღუდვა მხოლოდ უკიდურეს შემთხვევებს შეეხება, კერძოდ, მომხმარებლებს, რომლებიც ჩატბოტების მიმართ განმეორებით ავლენენ სისასტიკეს და ამას რაიმე გასაგები მიზანი არ აქვს. კომპანია ხაზს უსვამს, რომ წესები არ გავრცელდება მომხმარებელთა უკმაყოფილების ჩვეულებრივ გამოხატვაზე, კრიტიკაზე, მოდელების ტესტირებასა და კვლევაზე.
Anthropic-ს Claude-ის გამოყენების წესებში უკვე ჰქონდა გათვალისწინებული მექანიზმი, რომლის მიხედვითაც, ჩატბოტი განმეორებით სასტიკად მოპყრობის შემთხვევაში საუბარს წყვეტს. ახალი განახლება ამ მიდგომას უფრო მკაფიოდ განსაზღვრავს.
ცვლილებები ასევე ითვალისწინებს Claude-ის გამოყენებით არჩევნებისა და ხმის მიცემის პროცესის შესახებ დეზინფორმაციის გავრცელების პრევენციის გაძლიერებას. Anthropic-ის განცხადებით, ახალი წესები მოიცავს კანდიდატების შესახებ ცრუ ინფორმაციის გავრცელებისა და ამომრჩევლებისთვის ხმის მიცემის წესების არასწორად მიწოდების წინააღმდეგ დამატებით მექანიზმებს. ასევე იკრძალება კანდიდატების სახელით თავის გასაღება.
Anthropic-ი, რომელიც, გავრცელებული ინფორმაციით, მიმდინარე წელს პირველადი საჯარო შეთავაზების (IPO) განხორციელებას განიხილავს, ხელოვნური ინტელექტის განვითარებასთან დაკავშირებულ რისკზეც საუბრობს. მათ შორის კომპანია ასახელებს მოდელების მიერ თვითგადარჩენაზე ორიენტირებული ქცევის გამოვლენისა და გამორთვის მცდელობებისთვის წინააღმდეგობის გაწევის შესაძლებლობას. Anthropic-ის შეფასებით, განსაკუთრებით მოწინავე მოდელების შექმნამ შესაძლოა ადამიანებისთვის ზიანის მიყენების რისკიც გაზარდოს.
გასულ თვეში კომპანიის ხელმძღვანელმა, დარიო ამოდეიმ, ხელოვნური ინტელექტის სფეროში მომუშავე კომპანიებს ტექნოლოგიური განვითარების ტემპის ფრთხილად მართვისკენ მოუწოდა. თავის წერილში მან გააფრთხილა ინდუსტრია, რომ მოდელების ზედმეტად სწრაფმა განვითარებამ შესაძლოა მომდევნო 6-12 თვის განმავლობაში ავტონომიური ბოტების მიერ „მთელი ინტერნეტის“ ხელში ჩაგდების საფრთხე შექმნას.
Forbes Georgia-ს აღმასრულებელი რედაქტორი
