სწრაფად განვითარებადი ციფრული და მასთან დაკავშირებული ტექნოლოგიების შეფასების ჩარჩო: AI, დიდი ენობრივი მოდელები და მის ფარგლებს გარეთ

• შესავალი 
• ಹಿನ್ನೆಲೆ 
• ანალიტიკური ჩარჩოს შემუშავება 
• ანალიტიკური ჩარჩოს გამოყენება 
• ზომები, რომლებიც გასათვალისწინებელია ახალი ტექნოლოგიის შეფასებისას 
• წინსვლის გზა 
• მადლობა

სწრაფად განვითარებადი ტექნოლოგიები წარმოადგენენ რთულ საკითხებს, როდესაც საქმე ეხება მათ მმართველობას და პოტენციურ რეგულირებას. პოლიტიკამ და საჯარო დებატებმა ხელოვნური ინტელექტის (AI) და მისი გამოყენების შესახებ ეს საკითხები მწვავე ყურადღების ცენტრში მოაქცია. მიუხედავად იმისა, რომ ხელოვნური ინტელექტის ფართო პრინციპები გამოქვეყნებულია იუნესკოს, OECD-ისა და სხვათა მიერ, და მიმდინარეობს ახალი დისკუსიები ტექნოლოგიის გლობალურ ან იურისდიქციულ რეგულირებასთან დაკავშირებით, არსებობს ონტოლოგიური უფსკრული მაღალი დონის პრინციპების შემუშავებასა და მათ მარეგულირებელ პოლიტიკაში ჩართვას შორის. მმართველობისა და მეურვეობის მიდგომები. სწორედ აქ შეიძლება ჰქონდეს განსაკუთრებული როლი არასამთავრობო სამეცნიერო საზოგადოებას. 

რამდენიმე აკადემიკოსმა და პოლიტიკის ექსპერტმა შესთავაზა, რომ საერთაშორისო სამეცნიერო საბჭომ (ISC) - თავისი პლურალისტური წევრობით სოციალური და საბუნებისმეტყველო მეცნიერებებიდან - შექმნას პროცესი რისკების, სარგებელის ანოტირებული ჩარჩოს/საკონტროლო სიის შესაქმნელად და შესანარჩუნებლად. საფრთხეები და შესაძლებლობები, რომლებიც დაკავშირებულია სწრაფად მოძრავ ციფრულ ტექნოლოგიებთან, მათ შორის - მაგრამ არ შემოიფარგლება - AI. საკონტროლო სიის მიზანი იქნება ყველა დაინტერესებული მხარის - მათ შორის მთავრობების, სავაჭრო მომლაპარაკებლების, მარეგულირებლების, სამოქალაქო საზოგადოებისა და ინდუსტრიის ჩათვლით - ინფორმირება პოტენციური სამომავლო სცენარების შესახებ და ასახავს იმას, თუ როგორ შეიძლება განიხილონ შესაძლებლობები, სარგებელი, რისკები და სხვა საკითხები. 

შედეგები არ იმოქმედებს როგორც შეფასების ორგანო, არამედ როგორც ადაპტირებადი და განვითარებადი ანალიტიკური ჩარჩო, რომელიც შეიძლება დაეყრდნოს ნებისმიერ შეფასებას და მარეგულირებელ პროცესს, რომელიც შეიძლება განვითარდეს დაინტერესებული მხარეების მიერ, მათ შორის მთავრობებისა და მრავალმხრივი სისტემის მიერ. ნებისმიერი ანალიტიკური ჩარჩო იდეალურად უნდა იყოს შემუშავებული სამთავრობო და ინდუსტრიის პრეტენზიებისგან დამოუკიდებლად, მათი გასაგები ინტერესებიდან გამომდინარე. ის ასევე უნდა იყოს მაქსიმალურად პლურალისტური თავის პერსპექტივაში, რაც მოიცავს ტექნოლოგიის ყველა ასპექტს და მის შედეგებს. 

ეს სადისკუსიო ქაღალდი იძლევა საწყისი ჩარჩოს მონახაზს, რათა ინფორმირდეს მრავალჯერადი გლობალური და ეროვნული დისკუსიები, რომლებიც მიმდინარეობს AI-სთან დაკავშირებით. 

ტექნოლოგიის სწრაფი გაჩენა ხელოვნური ინტელექტის სირთულითა და შედეგებით, იწვევს ბევრ პრეტენზიას დიდ სარგებელს. თუმცა, ის ასევე იწვევს მნიშვნელოვანი რისკების შიშს, ინდივიდუალურიდან გეოსტრატეგიულ დონეზე. დისკუსიის დიდი ნაწილი მიდრეკილია შეხედულებათა სპექტრის უკიდურეს ბოლოებზე და უფრო პრაგმატული მიდგომაა საჭირო. AI ტექნოლოგია გააგრძელებს განვითარებას და ისტორია აჩვენებს, რომ პრაქტიკულად ყველა ტექნოლოგიას აქვს როგორც სასარგებლო, ასევე მავნე გამოყენება. მაშასადამე, საკითხავია: როგორ მივაღწიოთ ამ ტექნოლოგიით სასიკეთო შედეგებს, და ამავდროულად შევამციროთ მავნე შედეგების რისკი, რომელთაგან ზოგიერთი შეიძლება იყოს ეგზისტენციალური მასშტაბით? 

მომავალი ყოველთვის გაურკვეველია, მაგრამ არსებობს საკმარისი სანდო და ექსპერტი ხმები AI-სა და გენერაციულ AI-სთან დაკავშირებით შედარებით პრევენციული მიდგომის წახალისებისთვის. გარდა ამისა, საჭიროა სისტემური მიდგომა, რადგან ხელოვნური ინტელექტი არის ტექნოლოგიების კლასი, რომელსაც ფართო გამოყენება და გამოყენება აქვს მრავალი ტიპის მომხმარებლის მიერ. ეს ნიშნავს, რომ სრული კონტექსტი უნდა იყოს გათვალისწინებული, როდესაც განიხილება ხელოვნური ინტელექტის გავლენა ინდივიდებზე, სოციალურ ცხოვრებაზე, სამოქალაქო ცხოვრებაზე, საზოგადოებრივ ცხოვრებაზე და გლობალურ კონტექსტში. 

წინა ტექნოლოგიების უმეტესობისგან განსხვავებით, ციფრულ და მასთან დაკავშირებულ ტექნოლოგიებს აქვს ძალიან მოკლე დრო დამუშავებიდან გამოშვებამდე, რაც ძირითადად განპირობებულია მწარმოებელი კომპანიების ან სააგენტოების ინტერესებით. AI სწრაფად ვრცელდება; ზოგიერთი თვისება შეიძლება გამოჩნდეს მხოლოდ გამოშვების შემდეგ და ტექნოლოგიას შეიძლება ჰქონდეს როგორც მავნე, ისე კეთილგანწყობილი აპლიკაციები. მნიშვნელოვანი მნიშვნელობების ზომები გავლენას მოახდენს ნებისმიერი გამოყენების აღქმაზე. გარდა ამისა, შეიძლება არსებობდეს გეო-სტრატეგიული ინტერესები. 

დღეისათვის, ვირტუალური ტექნოლოგიის რეგულირება დიდწილად განიხილება "პრინციპების" და ნებაყოფლობითი შესაბამისობის თვალით. თუმცა, სულ ცოტა ხნის წინ, დისკუსია შეეხო ეროვნული და მრავალმხრივი მმართველობის საკითხებს, მათ შორის მარეგულირებელი და სხვა პოლიტიკის ინსტრუმენტების გამოყენებას. ხელოვნური ინტელექტის მომხრე ან მის წინააღმდეგ გაკეთებული პრეტენზიები ხშირად ჰიპერბოლურია და – ტექნოლოგიის ბუნების გათვალისწინებით – ძნელი შესაფასებელი. ეფექტური გლობალური ან ეროვნული ტექნოლოგიების რეგულირების სისტემის ჩამოყალიბება რთული იქნება და რისკზე ინფორმირებული გადაწყვეტილების მიღების მრავალი ფენა იქნება საჭირო ჯაჭვის გასწვრივ, გამომგონებლიდან მწარმოებელამდე, მომხმარებლამდე, მთავრობამდე და მრავალმხრივ სისტემამდე. 

მიუხედავად იმისა, რომ მაღალი დონის პრინციპები გამოაქვეყნეს იუნესკომ, OECD და ევროკომისიამ, სხვათა შორის, და მიმდინარეობს სხვადასხვა მაღალი დონის დისკუსიები პოტენციური რეგულირების საკითხებთან დაკავშირებით, არსებობს დიდი ონტოლოგიური უფსკრული ასეთ პრინციპებსა და მმართველობასა თუ მარეგულირებელ ჩარჩოს შორის. რა არის იმ მოსაზრებების ტაქსონომია, რომლის გათვალისწინებაც შეიძლება სჭირდებოდეს მარეგულირებელს? ვიწრო ფოკუსირებული ჩარჩო არ იქნება გონივრული, ამ ტექნოლოგიების ფართო გავლენის გათვალისწინებით. ეს პოტენციალი მრავალი კომენტარის საგანი გახდა, როგორც დადებითი, ასევე უარყოფითი.

ISC არის ძირითადი გლობალური არასამთავრობო ორგანიზაცია, რომელიც აერთიანებს ბუნებრივ და სოციალურ მეცნიერებებს. მისი გლობალური და დისციპლინური წვდომა ნიშნავს, რომ მას კარგად აქვს ადგილი დამოუკიდებელი და გლობალურად შესაბამისი რჩევების შესაქმნელად, რათა აცნობოს მომავალი კომპლექსური არჩევანის შესახებ, განსაკუთრებით იმის გამო, რომ ამ ასპარეზზე ამჟამინდელი ხმები ძირითადად ინდუსტრიიდან ან ძირითადი ტექნოლოგიური ძალებისგან მოდის. ბოლო თვეების ვრცელი დისკუსიის შემდეგ, მათ შორის არასამთავრობო შეფასების პროცესის განხილვის შემდეგ, ISC-მ დაასკვნა, რომ მისი ყველაზე სასარგებლო წვლილი იქნება ადაპტური ანალიტიკური ჩარჩოს შექმნა და შენარჩუნება, რომელიც შეიძლება გამოყენებულ იქნას როგორც საფუძველი დისკურსისა და გადაწყვეტილების მიღებისათვის. ყველა დაინტერესებული მხარე, მათ შორის ნებისმიერი ფორმალური შეფასების პროცესის დროს, რომელიც გამოჩნდება. 

ეს ჩარჩო მიიღებს ყოვლისმომცველი საკონტროლო სიის ფორმას, რომელიც შეიძლება გამოიყენონ როგორც სამთავრობო, ისე არასამთავრობო ინსტიტუტებმა. ჩარჩო იდენტიფიცირებს და იკვლევს ისეთი ტექნოლოგიის პოტენციალს, როგორიცაა ხელოვნური ხელოვნური ინტელექტი და მისი წარმოებულები ფართო ლინზებით, რომელიც მოიცავს ადამიანის და საზოგადოების კეთილდღეობას, ასევე გარე ფაქტორებს, როგორიცაა ეკონომიკა, პოლიტიკა, გარემო და უსაფრთხოება. საკონტროლო სიის ზოგიერთი ასპექტი შეიძლება იყოს უფრო აქტუალური ვიდრე სხვები, კონტექსტიდან გამომდინარე, მაგრამ უკეთესი გადაწყვეტილებების მიღება უფრო სავარაუდოა, თუ ყველა დომენს განიხილავს. ეს არის საკონტროლო სიის მიდგომის თანდაყოლილი მნიშვნელობა. 

შემოთავაზებული ჩარჩო მიღებულია წინა სამუშაოდან და აზროვნებიდან, მათ შორის სამთავრობო სამეცნიერო რჩევების საერთაშორისო ქსელის (INGSA) ციფრული კეთილდღეობის ანგარიშიდან.¹ და OECD AI კლასიფიკაციის ჩარჩო² AI-ის პოტენციური შესაძლებლობების, რისკებისა და ზემოქმედების მთლიანობის წარმოჩენა. ეს წინა პროდუქტები უფრო შეზღუდული იყო მათი განზრახვით, მათი დროისა და კონტექსტიდან გამომდინარე, საჭიროა ყოვლისმომცველი ჩარჩო, რომელიც წარმოადგენს საკითხების სრულ სპექტრს როგორც მოკლე, ასევე გრძელვადიან პერსპექტივაში. 

მიუხედავად იმისა, რომ შემუშავებულია ხელოვნური ინტელექტის განსახილველად, ეს ანალიტიკური ჩარჩო შეიძლება გამოყენებულ იქნას ნებისმიერ სწრაფად განვითარებად ტექნოლოგიაზე. საკითხები ფართოდ იყოფა შემდეგ კატეგორიებად შემდგომი გამოკვლევისთვის: 

• კეთილდღეობა (პიროვნების ან საკუთარი თავის, საზოგადოებისა და სოციალური ცხოვრებისა და სამოქალაქო ცხოვრების ჩათვლით) 
• ვაჭრობა და ეკონომიკა 
• გარემოს 
• გეო-სტრატეგიული და გეოპოლიტიკური 
• ტექნოლოგიური (სისტემის მახასიათებლები, დიზაინი და გამოყენება) 

თითოეული ზემოაღნიშნული კატეგორიის მოსაზრებების სია შედის მათ შესაბამის შესაძლებლობებთან და შედეგებთან ერთად. ზოგიერთი რელევანტურია AI-ს კონკრეტული შემთხვევებისთვის ან აპლიკაციებისთვის, ზოგი კი ზოგადი და აგნოსტიკოსია პლატფორმის ან გამოყენებისთვის. აქ შეტანილი არც ერთი მოსაზრება არ უნდა განიხილებოდეს პრიორიტეტულად და, როგორც ასეთი, ყველა უნდა განიხილებოდეს. 

ეს ჩარჩო შეიძლება გამოყენებულ იქნას, მაგრამ არ შემოიფარგლება, შემდეგი გზებით: 

• პრინციპებსა და შეფასებას შორის უფსკრული გადალახოს მოსაზრებების სპექტრის დადასტურებული საერთო ტაქსონომიის დადგენით, რომელიც შეიძლება გამოყენებულ იქნას შესაბამისი დაინტერესებული მხარეების მიერ, როგორც საფუძველი შემდგომი აზროვნების ინფორმირებისთვის და ჩამოყალიბებისთვის, მათ შორის ნებისმიერი შეფასების ჩარჩო, რომელიც შეიძლება შეიმუშაოს ხელისუფლების მიერ. 

• ზემოქმედების შეფასების ინფორმირება. ევროკავშირის AI აქტი მოითხოვს ორგანიზაციებს, რომლებიც უზრუნველყოფენ AI ინსტრუმენტებს ან იღებენ AI-ს თავიანთ პროცესებში, განახორციელონ ზემოქმედების შეფასება თავიანთი ინიციატივების რისკის დასადგენად და გამოიყენონ რისკის მართვის შესაბამისი მიდგომა. აქ წარმოდგენილი ჩარჩო შეიძლება გამოყენებულ იქნას, როგორც საფუძველი. 

• გააძლიეროს ეთიკური პრინციპები, რომლებიც საჭიროა ხელოვნური ინტელექტის გამოყენების ხელმძღვანელობისა და მართვისთვის. ჩარჩოს შეუძლია ამის გაკეთება მოქნილი საფუძვლის უზრუნველყოფით, რომელზედაც შეიძლება განვითარდეს სანდო სისტემები და უზრუნველყოს ტექნოლოგიის კანონიერი, ეთიკური, ძლიერი და პასუხისმგებელი გამოყენება. ეს პრინციპები შეიძლება შემოწმდეს ამ ჩარჩოში წარმოდგენილი ზემოქმედებების მთელი სპექტრის წინააღმდეგ. 
• არსებული ზომების (მაგ., მარეგულირებელი, საკანონმდებლო, პოლიტიკა) აღრიცხვის ხელშეწყობა და ნებისმიერი ხარვეზის იდენტიფიცირება, რომელიც შემდგომ განხილვას საჭიროებს. 

• ჩარჩო აგნოსტიკურია ტექნოლოგიისა და მისი გამოყენების მიმართ. ამიტომ მისი გამოყენება შეიძლება საკმაოდ განსხვავებულ სფეროებში, როგორიცაა სინთეზური ბიოლოგია. 

შემდეგი ცხრილი არის ანალიტიკური ჩარჩოს ზომების ადრეული ფორმირება. ტექნოლოგიიდან და მისი გამოყენების მიხედვით, ზოგიერთი კომპონენტი უფრო აქტუალური იქნება, ვიდრე სხვები. მაგალითები მოწოდებულია იმის საილუსტრაციოდ, თუ რატომ შეიძლება იყოს თითოეული დომენის მნიშვნელობა; კონტექსტში, ჩარჩო საჭიროებს კონტექსტურ შესაბამის გაფართოებას. ასევე მნიშვნელოვანია განასხვავოთ პლატფორმის განვითარება და ზოგადი საკითხები, რომლებიც შეიძლება წარმოიშვას კონკრეტული აპლიკაციების დროს.  

გასაღები აღწერების წყაროები

Ჩვეულებრივი ტექსტი:
გლუკმანი, პ. და ალენი, კ. 2018 წ. კეთილდღეობის გაგება სწრაფი ციფრული და მასთან დაკავშირებული ტრანსფორმაციების კონტექსტში. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

სქელი ტექსტი:
OECD. 2022 წელი. OECD ჩარჩო AI სისტემების კლასიფიკაციისთვის. OECD Digital Economy Papers, No. 323, OECD Publishing, პარიზი. https://oecd.ai/en/classification 

დახრილი ტექსტი:
ახალი აღწერები (მრავალჯერადი წყაროდან) 

ამ სადისკუსიო დოკუმენტზე პასუხის მიხედვით, ISC-ის მიერ შეიქმნება ექსპერტთა სამუშაო ჯგუფი, რათა შემდგომ განავითაროს ან შეცვალოს ზემოაღნიშნული ანალიტიკური ჩარჩო, რომლითაც დაინტერესებულ მხარეებს შეუძლიათ ყოვლისმომცველი დაათვალიერონ ნებისმიერი მნიშვნელოვანი განვითარება პლატფორმების ან გამოყენების განზომილებების შესახებ. სამუშაო ჯგუფი იქნება დისციპლინურად, გეოგრაფიულად და დემოგრაფიულად მრავალფეროვანი, ექსპერტიზა ტექნოლოგიის შეფასებიდან საჯარო პოლიტიკამდე, ადამიანური განვითარებადან სოციოლოგიამდე და ფიუჩერსებითა და ტექნოლოგიების კვლევებამდე. 

ამ სადისკუსიო ნაშრომში ჩართვისთვის გთხოვთ ეწვიოთ საბჭო.მეცნიერება/პუბლიკაციები/framework-digital-technologies 

ამ ნაშრომის შემუშავებისას, რომელიც შეიმუშავა..., ბევრ ადამიანთან კონსულტაცია გაიარა... Sir Peter Gluckman, ISC-ის პრეზიდენტი და ჰემა სრიდჰარი, თავდაცვის სამინისტროს ყოფილი მთავარი მეცნიერ-თანამშრომელი და ამჟამად უფროსი მეცნიერ-თანამშრომელი, ოკლენდის უნივერსიტეტი, ახალი ზელანდია. 

განსაკუთრებით მადლობას ვუხდით ლორდ მარტინ რისს, სამეფო საზოგადოების ყოფილ პრეზიდენტს და კემბრიჯის უნივერსიტეტის ეგზისტენციალური რისკების კვლევის ცენტრის თანადამფუძნებელს; პროფესორი შივაჯი სონდი, ოქსფორდის უნივერსიტეტის ფიზიკის პროფესორი; პროფესორი კ ვიჯაი რაღავანი, ინდოეთის მთავრობის ყოფილი მთავარი სამეცნიერო მრჩეველი; ამანდიპ სინგ გილი, გაეროს გენერალური მდივნის წარმომადგენელი ტექნოლოგიების საკითხებში; დოქტორი Seán Óh Éigeartaigh, კემბრიჯის უნივერსიტეტის ეგზისტენციალური რისკების კვლევის ცენტრის აღმასრულებელი დირექტორი; ამანდა-ჯუნ ბრაუნერი, უფროსი პოლიტიკის მრჩეველი და იან უიგინსი, საერთაშორისო ურთიერთობების დირექტორი, სამეფო საზოგადოება დიდი ბრიტანეთი; დოქტორი ჯერომ დიუბერი, დოქტორი მარი-ლორე სალესი, ჟენევის სამაგისტრო ინსტიტუტის დირექტორი; ბ-ნი ჩორ ფარნ ლი, სტრატეგიული მომავლის ცენტრი, პრემიერ-მინისტრის ოფისი, სინგაპური; ბარენდ მონსი და დოქტორი საიმონ ჰოდსონი, მონაცემთა კომიტეტი (CoDATA); პროფესორი იუკო ჰარაიამა, იაპონია; პროფესორი Rémi Quirion, პრეზიდენტი, INGSA; დოქტორი კლერ კრეიგი, ოქსფორდის უნივერსიტეტი და მეცნიერების მთავრობის ოფისის შორსმჭვრეტელობის ყოფილი ხელმძღვანელი; და პროფესორი იოშუა ბენჯიო, გაეროს გენერალური მდივნის სამეცნიერო მრჩეველთა საბჭო და მონრეალის უნივერსიტეტში. საკონტროლო სიის მიდგომა ზოგადად მოწონებული იყო და ხაზგასმული იყო ISC-ის მიერ ნებისმიერი ქმედების დროულობა.