დიდ შესაძლებლობებთან ერთად, ხელოვნურ ინტელექტს თან ახლავს მნიშვნელოვანი საფრთხეც: მანქანებმა მალე შესაძლოა, გვაჯობონ ინტელექტით და ადამიანი დედამიწაზე ზედმეტი გახდეს. გაგიკვირდებათ, და ასე რომ მოხდეს, ეს პირველი შემთხვევა არ იქნება.
ბოლო დროს მთელი მსოფლიო ალაპარაკდა ხელოვნურ ინტელექტზე, რომლის იდეა სულაც არ არის ახალი. ჭკვიანი კომპიუტერების შექმნის შესახებ პირველი ნაშრომები ჯერ კიდევ 1950-იანებში გამოქვეყნდა. თუმცა ChatGPT-ის განვითარებამ მოახდინა სწორედ ის ეფექტი, რაც წინა თაობების ბრძენმა ადამიანებმა ვერ შეძლეს – ხელოვნური ინტელექტი დღის მთავარ სალაპარაკო თემად იქცა.
დღეს უკვე ყველასთვის გასაგებია, რომ გენერაციულ ხელოვნურ ინტელექტს თითქმის ყველა სფეროში შეუძლია ჩვენი ცხოვრების გაუმჯობესება. კომპიუტერებს შეუძლიათ უზარმაზარი რაოდენობის მონაცემების წაკითხვა და გაანალიზება, რაც ბიოლოგიური ტვინის შესაძლებლობებს აღემატება, შემდეგ კი „თვითონ“, ანუ ადამიანების ხელმძღვანელობის გარეშე, დასკვნების გამოტანა.
ამ ყველაფერმა შესაძლოა, სრულიად შეცვალოს ჩვენი ცხოვრების მრავალი სფერო. ჩვენ წინაშე უცებ გაიხსნა ახალი მიმართულებები, როგორიცაა უმძღოლო (ავტონომიური) მანქანები; მედიკამენტები, რომლებიც შეიძლება მოერგოს კონკრეტული პაციენტის სპეციფიკურ გენეტიკურ და კლინიკურ ისტორიას; ან თუნდაც კოსმოსიდან მიღებული რადიოსიგნალების ანალიზი, რომელიც საშუალებას გვაძლევს, განვასხვაოთ გონიერი არსებების მიერ (ასეთების არსებობის შემთხვევაში) გამოგზავნილი „ბუნებრივი“ სიგნალები „ხელოვნურისგან“.
დიდ პერსპექტივებს თან ახლავს დიდი შიშიც: რა რისკთან არის დაკავშირებული ეს ახალი ტექნოლოგიები? შეგვიძლია თუ არა ამ რისკის მართვა და ისეთი პროდუქტების განვითარების შეზღუდვა, რომლებმაც შესაძლოა, კატასტროფა გამოიწვიონ? და რაც მთავარია, ვუახლოვდებით თუ არა იმ დროს, როდესაც მანქანები ჩვენზე იმდენად ჭკვიანი იქნებიან, რომ ჩვენ გარეშე შეძლებენ არსებობას და თავიდან მოგვიცილებენ? დადგა თუ არა მანქანების ეპოქა, რომელიც კაცობრიობის არსებობას ემუქრება?
სანამ გავაგრძელებდი, ერთ რამეს გეტყვით: თუკი ყოველივე ზემოთ თქმული ასრულდება, ეს არ იქნება პირველი მსგავსი შემთხვევა კაცობრიობის ისტორიაში.
ბევრი მკითხველი ახლა შეიძლება ფიქრობდეს – როგორ არ ვიცოდი, რომ ოდესღაც დედამიწაზე უკვე არსებობდნენ გონიერი მანქანები, რომლებიც მაშინდელ ადამიანებზე ჭკვიანი იყვნენ და საკუთარ ინტელექტუალურ უპირატესობას იყენებდნენ მათ დასაძლევად და საბოლოოდ გასანადგურებლად?
ამ კითხვის საპასუხოდ უნდა განვიხილოთ სიტყვა „მანქანის“ მნიშვნელობა. ციფრული კომპიუტერის კონტექსტში, „მანქანა“ არის მრავალი კომპონენტისგან შემდგარი ნივთი. თითოეული კომპონენტი (ძირითადად სილიკონისგან ან სხვა მასალისგან დამზადებული ტრანზისტორი) წარმოადგენს ერთ „ბიტს”. დენის გამტარი ბიტის მნიშვნელობა არის 1, ხოლო თუ მასში არ გადის დენი, მაშინ მისი მნიშვნელობა არის 0. დღეს აქტიურად მიდის მუშაობა სხვა საანგარიშო ტექნოლოგიების, პირველ რიგში კი კვანტური ტექნოლოგიების განვითარებაზე. კვანტური ტექნოლოგიის ძირითადი ელემენტი არის არა ბიტი (როგორც ტრანზისტორში), არამედ 1-ისა და 0-ის ნაზავი. ასეთ ელემენტს ჩვენ ვუწოდებთ კვანტურ ბიტს (შემოკლებით ქუბიტს).
რამდენადაც ჩვენთვის ცნობილია, ბუნებას (მათ შორის ადამიანის ტვინს) აქვს კვანტური სახე. შესაბამისად, ბიტებზე დაყრდნობილი ციფრული გამოთვლები, რომლებსაც მხოლოდ ორი მდგომარეობა აქვთ, პრიმიტიულია ბუნებრივთან შედარებით. ნებისმიერ შემთხვევაში – მაშინაც კი, თუ ადამიანის ტვინი თავად არის „მოწინავე“ კვანტური კომპიუტერი და არა „დაბალი დონის“ ციფრული კომპიუტერი, რომელსაც ჩვენ ვაწყობთ ტრანზისტორებით – ის მაინც მანქანაა. ადამიანის „მანქანა“ არ არის სილიკონისგან დამზადებული. ის გაცილებით რთულია, ვიდრე ჩვენ მიერ გამოგონილი ციფრული კომპიუტერები, და ამჟამად უფრო ჭკვიანია. მიუხედავად ამისა, ეს არის მანქანა, რომელიც დამზადებულია ბუნებაში ნაპოვნი (ბიოლოგიური) მასალებისგან და ექვემდებარება ბუნების კანონებს.
ადამიანის მსგავსმა არსებებმა (ჰომინიდებმა) დედამიწაზე რამდენიმე მილიონი წლის წინ დაიწყეს სიარული. მხოლოდ დაახლოებით 250 ათასი წლის წინ წარმოიქმნა ახალი მუტაცია სადღაც ცენტრალურ აფრიკაში – ახალი სახეობა, რომელსაც ჩვენ ჰომო საპიენსს ვუწოდებთ. მისი ერთ-ერთი მთავარი უპირატესობა იყო ტვინის უფრო დიდი მოცულობა, რაც აისახებოდა უფრო მაღალ ინტელექტზე. ევოლუციურმა პროცესმა განაპირობა ის, რომ ახალმა „მანქანამ“ (ჰომო საპიენსმა) თანდათან დაიპყრო სამყარო, ძველი „მანქანების“ (მაგალითად, ჰომო ერექტუსისა და ნეანდერტალელის) რაოდენობა კი ჯერ შემცირდა, შემდეგ კი ისინი საერთოდ გაქრნენ.
რაგინდ რთული უნდა იყოს ამის გაცნობიერება, ჩვენ ასევე „მანქანები“ ვართ იმ გაგებით, რაც მე ზემოთ აღვწერე. ამასთან, ჩვენ ვართ სწავლის უნარის მქონე მანქანები. ჩვენი ქცევა ნაკარნახებია არა მხოლოდ იმ შიდა პროგრამული უზრუნველყოფით, რომლითაც ვიბადებით (მაგალითად, დნმით), არამედ ცხოვრების მანძილზე დაგროვილი გამოცდილებით, რომელიც ცვლის ჩვენს ქცევას. მეტიც: ჩვენ ასევე ვიცით, როგორ ვაწარმოოთ „ახალი მანქანები“. ჩვენ მათ „ბავშვებს“ ვუწოდებთ.
როგორც კი ჩვენ ამ ყველაფერს გავაცნობიერებთ, თავისთავად ცხადი ხდება, რომ ჭკვიან მანქანას ასევე შეუძლია, გამოიწვიოს მოულოდნელი მოვლენები, რომელთაგან ზოგიერთს უკიდურესად უარყოფითი შედეგები მოჰყვება. „მანქანური სწავლა“ გულისხმობს, რომ ბავშვების მსგავსად, მანქანებს საკუთარი გამოცდილებიდან სწავლა და ქცევის შეცვლა შეუძლიათ. როგორც არ უნდა ვეცადოთ მათზე კონტროლის დამყარება, შეუძლებელია, გვქონდეს იმის გარანტია, რომ ჭკვიანი მანქანები ცუდად არ მოიქცევიან.
წარმოიდგინეთ, რომ მომავალში აკრძალული იქნება ბავშვების ყოლა სახელმწიფო ლიცენზიის გარეშე, და რომ სახელმწიფო არ გასცემს ამგვარ ლიცენზიას წინასწარი გარანტიის გარეშე, რომ ბავშვი ცხოვრებაში არაფერს დააშავებს. ცხადია, რომ ეს შეუძლებელია. თუმცა ბევრი სახელმწიფო დღეს სწორედ იმას ცდილობს, რომ ხელოვნურ ინტელექტზე დაფუძნებული ტექნოლოგიების წახალისებასთან ერთად აკონტროლოს მათი განვითარება ისეთი რეგულაციებით, რომლებიც არ დაუშვებენ აღნიშნული ტექნოლოგიების მიერ ჩვენთვის ზიანის მოყენებას. როგორც უკვე აღვნიშნე, ეს შეუძლებელია. ჭკვიანი მანქანა აღარ არის ძველი გაგებით „მექანიკური“ – მისი ქმედებები ძირითადად არაპროგნოზირებადია.
თუმცა ამ სფეროში ჯერ კიდევ ბევრია გასაკეთებელი. როგორც ბავშვებს, ჩვენ მანქანებსაც უნდა მოვუძებნოთ სწავლების გზები და ვასწავლოთ მათ არა მხოლოდ ის, რაც უნდა გააკეთონ, არამედ ისიც, რაც არ უნდა გააკეთონ. ჩვენ შეიძლება მოგვიწიოს მათთვის ძალაუფლების ეტაპობრივად მინიჭება – მას შემდეგ, რაც დავრწმუნდებით, რომ ისინი „კარგად განათლებული“ არიან. შესაბამისად, ხელოვნური ინტელექტის ეთიკა ამ ახალი სფეროს განვითარების განუყოფელი ნაწილია.
სხვათა შორის, სწორედ ამ მიზეზით იქნა ეთიკა და რეგულირება ერთ-ერთ მთავარ თემად შეტანილი ხელოვნური ინტელექტის ეროვნულ გეგმაში, რომელიც მე რამდენიმე წლის წინ ჩემს კოლეგა პროფესორ მატანიასთან ერთად ისრაელის მთავრობას წარვუდგინე. სამწუხაროდ, ბოლო წლებში ისრაელის პოლიტიკური სისტემის არასტაბილურობამ და გაუარესებამ განაპირობა გეგმის მხოლოდ ნაწილობრივ შესრულება. მიუხედავად იმისა, რომ ჩვენ რამდენიმე წელი დავკარგეთ, ჯერ კიდევ არ არის გვიან ამ პროცესის გაგრძელება.
ეს არის ერთ-ერთი მთავარი თემა, რომელიც განიხილება ივნისის ბოლოს თელ-ავივის უნივერსიტეტში გასამართ „კიბერკვირეულზე“.
