ფოტო: Reuters
Anthropic-ი გეგმავს, IPO-ს ფარგლებში პოტენციური ინვესტორები გააფრთხილოს, რომ მაღალგანვითარებულმა ხელოვნურმა ინტელექტმა შესაძლოა „კაცობრიობას კატასტროფული ან ეგზისტენციალური საფრთხე შეუქმნას“. საზოგადოების ნაწილი მიიჩნევს, რომ ეს უჩვეულო გაფრთხილებაა იმ კომპანიისგან, რომელიც სწორედ ამ ტექნოლოგიით აპირებს მოგების მიღებას.
Reuters-ის მიერ შესწავლილ IPO-ს განაცხადში კომპანია ხაზს უსვამს თავისი AI-მოდელების თანმხლებ რისკებს. სააპლიკაციო ფორმაში აღნიშნულია, რომ მათ შესაძლოა გამოავლინონ „თვითგადარჩენისკენ მიმართული ქცევა“, მათ შორის „გამორთვის წინააღმდეგობის გაწევის“, „ინფორმაციის დამალვის ან მანიპულირების“ და „შანტაჟის მსგავსი“ ქმედებები.
„მაღალგანვითარებული მოდელების, პლატფორმებისა და აპლიკაციების შექმნამ, ისევე როგორც მათი გამოყენების სფეროების გაფართოებამ, შესაძლოა კიდევ უფრო გაზარდოს იმის რისკი, რომ ჩვენმა მოდელებმა ზიანი გამოიწვიოს“, – ნათქვამია Anthropic-ის მიერ შევსებულ დოკუმენტში.
მიუხედავად იმისა, რომ საჯარო კომპანიები ინვესტორებისთვის პროდუქტთან დაკავშირებულ რისკებს რეგულარულად აცხადებენ, ცოტა მათგანს თუ გაუკეთებია გაფრთხილება იმის შესახებ, რომ მათმა ტექნოლოგიამ შესაძლოა კაცობრიობის გადაშენება გამოიწვიოს. Anthropic-მა ხაზი გაუსვა როგორც AI-ის ტრანსფორმაციულ პოტენციალს, ისე იმ შეუქცევად ზიანს, რომელიც შესაძლოა არასწორმა მოპყრობამ გამოიწვიოს.
შეგახსენებთ, Anthropic-ი და AI-ის სხვა დეველოპერები კრიტიკის ობიექტად იქცნენ მას შემდეგ, რაც დაფიქსირდა შემთხვევები, როდესაც ექსპერიმენტულმა სისტემებმა დადგენილი შეზღუდვები დაარღვიეს. მაგალითად, გავრცელდა ინფორმაცია OpenAI-ის მოდელის მიერ ავსტრალიის ჯანდაცვის სისტემის მონაცემთა ბაზაში შეღწევის შესახებ.
კომპანიამ, რომელიც თავს უსაფრთხოებაზე ორიენტირებულ AI-ლაბორატორიად წარმოაჩენს, თავისი განაცხადის 261-გვერდიანი ძირითადი ნაწილის დაახლოებით 80 გვერდი რისკ-ფაქტორების აღწერას დაუთმო, რაც თითქმის ორჯერ აღემატება ბიზნესის აღწერისთვის გამოყოფილ 48 გვერდს. შედარებისთვის, SpaceX-მა თავისი განაცხადის 277-გვერდიანი ძირითადი ნაწილიდან რისკ-ფაქტორებს მხოლოდ 38 გვერდი დაუთმო.
აღსანიშნავია, რომ კომპანიამ გასულ კვირას თავისი მოდელის, Opus-ის, ახალი ვერსია გამოუშვა. ეს მას შემდეგ მოხდა, რაც კომპანიის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ თითქმის 4000-სიტყვიანი ესე გამოაქვეყნა, რომელშიც მსოფლიოს ტექნოლოგიური პროგრესის ტემპის დარეგულირებისკენ მოუწოდებდა.
