Беше предложено од голем број академици и експерти за политики Меѓународниот научен совет - со своето плуралистичко членство од општествените и природните науки - да воспостави процес за производство и одржување на нотирана рамка/листа за проверка на ризиците, придобивките, заканите и можностите поврзани со дигитални технологии кои брзо се движат, вклучувајќи – но не ограничувајќи се на – ВИ. Целта на контролната листа ќе биде да ги информира сите засегнати страни – вклучително владите, трговските преговарачи, регулаторите, граѓанското општество и индустријата – за потенцијалните идни сценарија, и ќе ги определи како тие би можеле да ги разгледаат можностите, придобивките, ризиците и другите прашања.
ISC со задоволство го презентира овој документ за дискусија за евалуација на дигиталната и сродната технологија што брзо се развива. Вештачката интелигенција, синтетичката биологија и квантните технологии се врвни примери на иновации, информирани од науката, кои се појавуваат со невидено темпо. Може да биде предизвик систематски да се предвидат не само нивните апликации, туку и нивните импликации.
Оценувањето на општествените аспекти на генеративната вештачка интелигенција, како што се големите јазични модели, кои очекувано го претставуваат најголемиот дел од овој документ за дискусија, е неопходен мост во рамките на тековниот дискурс – понекогаш воден од паника, други не доволно длабоки во размислувањето – и потребните курсеви за акција што можеме да ја преземеме. ISC е убеден дека е потребна аналитичка рамка помеѓу општественото прифаќање на таквите нови технологии и нивното можно регулирање за да се олеснат дискусиите со повеќе чинители кои се потребни за да се донесат информирани и одговорни одлуки за тоа како да се оптимизираат социјалните придобивки од оваа технологија што брзо се појавува.
ISC е отворен за реакции од нашата заедница преку овој документ за дискусија со цел да процени како најдобро да се продолжи да се биде дел и да се придонесе во дебатата околу технологијата.
Салваторе Арико, извршен директор
Документ за дискусија за ISC
Рамка за оценување дигитални и сродни технологии кои брзо се развиваат: ВИ, големи јазични модели и пошироко
Овој документ за дискусија дава преглед на почетната рамка за информирање на повеќекратните глобални и национални дискусии што се одвиваат поврзани со вештачката интелигенција.
Преземете го извештајотНово! Прочитајте ја верзијата за 2024 година за креаторите на политики со рамка за преземање за вашата организација.
Водич за креаторите на политики: евалуација на технологии кои брзо се развиваат, вклучувајќи вештачка интелигенција, големи јазични модели и пошироко
Овој документ за дискусија дава преглед на почетната рамка за информирање на повеќекратните глобални и национални дискусии што се одвиваат поврзани со вештачката интелигенција.
содржина
Вовед
Технологиите кои брзо се појавуваат претставуваат предизвикувачки прашања кога станува збор за нивното управување и потенцијалната регулација. Политиката и јавните дебати за вештачката интелигенција (ВИ) и нејзината употреба ги доведоа овие прашања во акутен фокус. Додека широките принципи за вештачката интелигенција беа објавени од УНЕСКО, ОЕЦД и други, и има нови дискусии во врска со глобалното или јурисдициското регулирање на технологијата, постои онтолошки јаз помеѓу развојот на принципите на високо ниво и нивното вклучување во регулаторната политика, пристапи на управување и раководење. Ова е местото каде што невладината научна заедница би можела да има посебна улога.
Од страна на голем број академици и експерти за политики е предложено Меѓународниот научен совет (ISC) - со своето плуралистичко членство од општествените и природните науки - да воспостави процес за производство и одржување на нотирана рамка/листа за проверка на ризиците, придобивките, закани и можности поврзани со дигитални технологии кои брзо се движат, вклучувајќи – но не ограничувајќи се на – вештачка интелигенција. Целта на контролната листа ќе биде да ги информира сите засегнати страни – вклучително владите, трговските преговарачи, регулаторите, граѓанското општество и индустријата – за потенцијалните идни сценарија, и ќе ги определи како тие би можеле да ги разгледаат можностите, придобивките, ризиците и другите прашања.
Резултатите нема да дејствуваат како тело за проценка, туку како адаптивна и еволутивна аналитичка рамка која би можела да ја поткрепи секоја проценка и регулаторни процеси што би можеле да ги развијат засегнатите страни, вклучувајќи ги владите и мултилатералниот систем. Секоја аналитичка рамка идеално треба да се развие независно од владините и индустриските тврдења, со оглед на нивните разбирливи интереси. Таа, исто така, мора да биде максимално плуралистичка во своите перспективи, со што ги опфаќа сите аспекти на технологијата и нејзините импликации.
Овој документ за дискусија дава преглед на почетната рамка за информирање на повеќекратните глобални и национални дискусии што се одвиваат поврзани со вештачката интелигенција.
Позадина: Зошто аналитичка рамка?
Брзото појавување на технологија со сложеност и импликации на вештачката интелигенција предизвикува многу тврдења за големи придобивки. Сепак, тоа предизвикува и страв од значителни ризици, од индивидуално до геостратешко ниво. Голем дел од дискусијата има тенденција да се одвива на крајните краеви на спектарот на ставови и потребен е попрагматичен пристап. Технологијата на вештачката интелигенција ќе продолжи да се развива и историјата покажува дека практично секоја технологија има и корисна и штетна употреба. Затоа, прашањето е: како можеме да постигнеме корисни резултати од оваа технологија, а истовремено да го намалиме ризикот од штетни последици, од кои некои би можеле да бидат егзистенцијални по големина?
Иднината е секогаш неизвесна, но има доволно веродостојни и стручни гласови во врска со вештачката интелигенција и генеративната вештачка интелигенција за да се поттикне релативно претпазлив пристап. Дополнително, потребен е системски пристап, бидејќи вештачката интелигенција е класа на технологии со широка употреба и примена од повеќе типови корисници. Ова значи дека целосниот контекст мора да се земе предвид кога се разгледуваат импликациите на вештачката интелигенција за поединци, општествениот живот, граѓанскиот живот, општествениот живот и во глобалниот контекст.
За разлика од повеќето минати технологии, дигиталните и сродните технологии имаат многу краток временски период од развојот до објавувањето, главно водени од интересите на производствените компании или агенции. ВИ е брзо продорна; некои својства може да станат очигледни само по објавувањето, а технологијата може да има и злонамерни и добронамерни апликации. Димензиите на важни вредности ќе влијаат на тоа како ќе се согледа секоја употреба. Понатаму, може да има геостратешки интереси во игра.
До денес, регулирањето на виртуелната технологија во голема мера се гледа преку објективот на „принципите“ и доброволното усогласување. Меѓутоа, во поново време, дискусијата се сврте кон прашањата за национално и мултилатерално управување, вклучително и употребата на регулаторни и други политички алатки. Тврдењата изнесени за или против вештачката интелигенција често се хиперболични и - со оглед на природата на технологијата - тешко се проценуваат. Воспоставувањето на ефективен глобален или национален систем за регулација на технологијата ќе биде предизвик и ќе бидат потребни повеќе слоеви на донесување одлуки информирани за ризик долж синџирот, од пронаоѓач до производител, до корисник, до владата и до мултилатералниот систем.
Додека принципите на високо ниво беа прогласени од УНЕСКО, ОЕЦД и Европската комисија, меѓу другото, и се водат различни дискусии на високо ниво во врска со прашањата за потенцијалната регулатива, постои голем онтолошки јаз помеѓу таквите принципи и владејачката или регулаторната рамка. Која е таксономијата на размислувањата што можеби ќе треба да ги земе предвид регулаторот? Тесно фокусираното кадрирање би било немудро, со оглед на широките импликации на овие технологии. Овој потенцијал беше предмет на многу коментари, и позитивни и негативни.
Развојот на аналитичка рамка
ISC е примарна глобална невладина организација која ги интегрира природните и општествените науки. Неговиот глобален и дисциплински досег значи дека е добро поставен да генерира независни и глобално релевантни совети за информирање за сложените избори кои претстојат, особено затоа што моменталните гласови во оваа арена се главно од индустријата или од големите технолошки сили. По опширната дискусија во последните месеци, вклучително и разгледувањето на невладиниот процес на проценка, ISC заклучи дека нејзиниот најкорисен придонес ќе биде да произведе и одржува адаптивна аналитичка рамка која може да се користи како основа за дискурс и донесување одлуки од сите засегнати страни, вклучително и за време на кој било формален процес на оценување што ќе се појави.
Оваа рамка би имала форма на сеопфатна листа за проверка која би можела да се користи и од владините и од невладините институции. Рамката го идентификува и истражува потенцијалот на технологијата како што е вештачката интелигенција и нејзините деривати преку широка леќа која ја опфаќа човечката и општествената благосостојба, како и надворешните фактори, како што се економијата, политиката, животната средина и безбедноста. Некои аспекти од списокот за проверка може да бидат порелевантни од другите, во зависност од контекстот, но подобри одлуки се поверојатно ако се земат предвид сите домени. Ова е вродената вредност на пристапот со листа за проверка.
Предложената рамка е изведена од претходната работа и размислување, вклучувајќи го и извештајот за дигитална благосостојба на Меѓународната мрежа за владини совети за наука (INGSA)1 и рамката за класификација на вештачката интелигенција на ОЕЦД2 да се претстави севкупноста на потенцијалните можности, ризици и влијанија на вештачката интелигенција. Овие претходни производи беа поограничени во нивната намера со оглед на нивното време и контекст, постои потреба од сеопфатна рамка која ќе го претстави целиот опсег на прашања и на краток и на подолг рок.
Иако е развиена за разгледување на вештачката интелигенција, оваа аналитичка рамка може да се примени на која било технологија која брзо се појавува. Прашањата се широко групирани во следните категории за понатамошно испитување:
Вклучена е листа на размислувања за секоја од горенаведените категории заедно со нивните соодветни можности и последици. Некои се релевантни за специфични примери или апликации на вештачка интелигенција, додека други се генерички и агностички за платформа или употреба. Ниту едно размислување вклучено овде не треба да се третира како приоритет и, како такво, сите треба да се испитаат.
Како може да се искористи оваа рамка?
Оваа рамка може да се користи, но не ограничувајќи се на, на следниве начини:
Следната табела е рано обликување на димензиите на аналитичката рамка. Во зависност од технологијата и нејзината употреба, некои компоненти ќе бидат порелевантни од другите. Примерите се дадени за да се илустрира зошто секој домен може да биде важен; во контекст, рамката би барала контекстуално релевантно проширување. Исто така, важно е да се направи разлика помеѓу развојот на платформата и генеричките проблеми што може да се појават при специфични апликации.
Димензии што треба да се земат предвид при оценување на нова технологија
| Почетен нацрт на димензиите што можеби ќе треба да се земат предвид при оценување на нова технологија | ||
| Димензии на влијание | Критериуми | Примери за тоа како ова може да се одрази во анализата |
| Индивидуален/само | Компетентност со вештачка интелигенција на корисниците | Колку се компетентни и свесни за својствата на системот веројатните корисници кои ќе комуницираат со системот? Како ќе им бидат обезбедени релевантните кориснички информации и предупредувања? |
| Влијани засегнати страни | Кои се примарните чинители кои ќе бидат под влијание на системот (т.е. поединци, заедници, ранливи, секторски работници, деца, креатори на политики, професионалци)? | |
| Факултативно | Дали на корисниците им е обезбедена опција да се откажат од системот; дали треба да им се дадат можности да го оспорат или корегираат резултатот? | |
| Ризици за човековите права и демократските вредности | Дали системот може да влијае (и во која насока) врз човековите права, вклучително, но не ограничувајќи се на, приватноста, слободата на изразување, правичноста, ризикот од дискриминација итн.? | |
| Потенцијални ефекти врз благосостојбата на луѓето | Дали системот може да влијае (и во која насока) на благосостојбата на поединецот корисник (т.е. квалитетот на работата, образованието, социјалните интеракции, менталното здравје, идентитетот, околината)? | |
| Потенцијал за раселување на човечката работна сила | Дали постои потенцијал системот да ги автоматизира задачите или функциите што ги извршувале луѓето? Ако е така, кои се последиците низводно? | |
| Потенцијал за манипулација со идентитет, вредности или знаење | Дали системот е дизајниран или потенцијално може да манипулира со идентитетот или вредностите на корисникот поставени или да шири дезинформации? Дали постои потенцијал за лажни или непроверливи тврдења за вештачење? | |
| Мерки за самопочит | Дали постои притисок да се прикаже идеализирано јас? Дали автоматизацијата може да го замени чувството за лично исполнување? Дали има притисок да се натпреварува со системот на работното место? Дали е отежната заштитата на индивидуалната репутација од дезинформации? | |
| Заштита на податоци | Дали има дифузни одговорности за заштита на приватноста и дали се прават некои претпоставки за тоа како се користат личните податоци? | |
| Автономија | Дали системот може да влијае на човековата автономија со генерирање на прекумерно потпирање на технологијата од страна на крајните корисници? | |
| Развој на човекот | Дали има влијание врз стекнувањето на клучните вештини за човековиот развој како што се извршните функции, интерперсоналните вештини, промените во времето на внимание што влијаат на учењето, развојот на личноста, грижите за менталното здравје итн.? | |
| Лична здравствена заштита | Дали има тврдења за персонализирани решенија за здравствена заштита? Ако е така, дали се потврдени според регулаторните стандарди? | |
| менталното здравје | Дали постои ризик од зголемена анксиозност, осаменост или други проблеми со менталното здравје, или дали технологијата може да ги ублажи таквите влијанија? | |
| Еволуција на човекот | Дали технологијата може да доведе до промени во човечката еволуција? | |
| Димензии на влијание | Критериуми | Опис |
| Општество/социјален живот | Општествени вредности | Дали системот фундаментално ја менува природата на општеството или овозможува нормализирање на идеите кои претходно биле сметани за антисоцијални, или ги нарушува општествените вредности на културата во која се применува? |
| Социјална интеракција | Дали има ефект врз значајниот човечки контакт, вклучувајќи ги и емоционалните односи? | |
| Капитал | Дали апликацијата/технологијата веројатно ќе ги намали или подобри нееднаквостите (т.е., економски, социјални, образовни, географски)? | |
| Здравје на населението | Дали постои потенцијал системот да ги унапреди или да ги поткопа здравствените намери на населението? | |
| Културно изразување | Дали е веројатно или потешко да се реши зголемувањето на културното присвојување или дискриминација? Дали потпирањето на системот за донесување одлуки потенцијално исклучува или маргинализира делови од општеството? | |
| Јавно образование | Дали има ефект врз улогите на наставниците или образовните институции? Дали системот ја нагласува или намалува нееднаквоста меѓу студентите и дигиталниот јаз? Дали внатрешната вредност на знаењето или критичкото разбирање е напредна или поткопана? | |
| Искривена реалност | Дали сè уште се применливи методите што ги користиме за да препознаеме што е вистина? Дали е компромитирана перцепцијата на реалноста? | |
| Економски контекст (трговија) | Индустриски сектор | Во кој индустриски сектор е распореден системот (т.е. финансии, земјоделство, здравство, образование, одбрана)? |
| Бизнис модел | Во која деловна функција е вработен системот и во кое својство? Каде се користи системот (приватен, јавен, непрофитен)? | |
| Влијание врз критичните активности | Дали нарушувањето на функцијата или активноста на системот би влијаело на основните услуги или критичните инфраструктури? | |
| Здив на распоредување | Како е распореден системот (тесно во организација наспроти широко распространет на национално/меѓународно ниво)? | |
| Техничка зрелост (TRL) | Колку е технички зрел системот? | |
| Технолошки суверенитет | Дали технологијата поттикнува поголема концентрација на технолошкиот суверенитет. | |
| Прераспределба на доходот и национални фискални лостови | Дали би можеле да бидат компромитирани основните улоги на суверената држава (т.е. Резервните банки)? Дали способноста на државата да ги исполни очекувањата и импликациите на граѓаните (т.е. социјални, економски, политички) ќе биде унапредена или намалена? | |
| Димензии на влијание | Критериуми | Опис |
| Граѓански живот | Управување и јавна служба | Дали механизмите на управување и системите на глобално управување би можеле да бидат засегнати позитивно или негативно? |
| Новини медиуми | Дали јавниот дискурс веројатно ќе стане повеќе или помалку поларизиран и вкоренет на ниво на население? Дали ќе има ефект врз нивоата на доверба во медиумите? Дали конвенционалната новинарска етика и стандардите за интегритет дополнително ќе бидат засегнати? | |
| Владеење на правото | Дали ќе има ефект врз способноста да се идентификуваат поединци или организации за да се бара одговорност (т.е. каква одговорност да се додели на алгоритам за негативни исходи)? Дали ова создава губење на суверенитетот (т.е. еколошка, фискална, социјална политика, етика)? | |
| Политика и социјална кохезија | Дали постои можност за повеќе вкоренети политички ставови и помала можност за градење консензус? Дали постои можност за дополнително маргинализирање на групите? Дали противничките стилови на политика се повеќе или помалку веројатни? | |
| Геостратешки/геополитички контекст | Прецизен надзор | Дали системите се обучени за индивидуални податоци за однесувањето и биолошките податоци, и ако е така, дали може да се користат за искористување на поединци или групи? |
| Дигитална колонизација | Дали државните или недржавните актери можат да ги искористат системите и податоците за да ги разберат и контролираат популациите и екосистемите на другите земји или да ја поткопаат јурисдикциската контрола? | |
| Геополитички натпревар | Дали системот влијае на конкуренцијата меѓу нациите и технолошките платформи за пристап до индивидуални и колективни податоци за економски или стратешки цели? | |
| Трговски и трговски договори | Дали системот има импликации врз меѓународните трговски договори? | |
| Промена на глобалните сили | Дали е загрозен статусот на националните држави како примарни геополитички актери во светот? Дали технолошките компании ќе имаат моќ некогаш резервирана за националните држави и дали стануваат независни суверени актери? | |
| Дезинформација | Дали е полесно за државните и недржавните актери да произведуваат и шират дезинформации што влијаат на социјалната кохезија, довербата и демократијата? | |
| Животната средина | Потрошувачка на енергија и ресурси (јаглероден отпечаток) | Дали системот и барањата го зголемуваат искористувањето на енергијата и потрошувачката на ресурси над и над придобивките од ефикасност добиени преку апликацијата? |
| Димензии на влијание | Критериуми | Опис |
| Податоци и внесување | Откривање и собирање | Дали податоците и влезните податоци ги собираат луѓе, автоматски сензори или и двете? |
| Потекло на податоците | Во однос на податоците, дали овие се обезбедени, набљудувани, синтетички или изведени? Дали има заштита од воден печат за да се потврди потеклото? | |
| Динамичка природа на податоците | Дали податоците се динамични, статични, се ажурираат од време на време или се ажурираат во реално време? | |
| Права | Дали податоците се сопственички, јавни или лични (т.е. поврзани со лица што може да се идентификуваат)? | |
| Идентификабилност на лични податоци | Ако личните податоци, дали се анонимизирани или псевдонимизирани? | |
| Структура на податоците | Дали податоците се структурирани, полуструктурирани, сложени структурирани или неструктурирани? | |
| Формат на податоците | Дали форматот на податоците и метаподатоците е стандардизиран или нестандардизиран? | |
| Скала на податоците | Која е скалата на датата на податоци? | |
| Соодветност и квалитет на податоците | Дали сетот на податоци одговара за целта? Дали големината на примерокот е соодветна? Дали е доволно репрезентативен и комплетен? Колку се бучни податоците? Дали е склона кон грешки? | |
| модел | Достапност на информации | Дали се достапни информации за моделот на системот? |
| Тип на ВИ модел | Дали моделот е симболичен (правила генерирани од човекот), статистички (користи податоци) или хибриден? | |
| Права поврзани со моделот | Дали моделот е со отворен код или е неслободен, управуван од сопствена или трета страна? | |
| Единечни или повеќе модели | Дали системот е составен од еден модел или неколку меѓусебно поврзани модели? | |
| Генеративен или дискриминативен | Дали моделот е генеративен, дискриминативен или и двете? | |
| Модел зграда | Дали системот учи врз основа на правила напишани од човекот, од податоци, преку надгледувано учење или преку засилено учење? | |
| Еволуција на моделот (АИ дрифт) | Дали моделот еволуира и/или стекнува способности од интеракција со податоци на терен? | |
| Федерирано или централно учење | Дали моделот е обучен централно или во неколку локални сервери или „рабни“ уреди? | |
| Развој и одржување | Дали моделот е универзален, приспособлив или приспособен на податоците на актерот со вештачка интелигенција? | |
| Детерминистички или веројатност | Дали моделот се користи на детерминистички или веројатен начин? | |
| Транспарентност на моделот | Дали се достапни информации за корисниците за да им се овозможи да ги разберат резултатите и ограничувањата на моделот или да користат ограничувања? | |
| Пресметковно ограничување | Дали има пресметковни ограничувања на системот? Можеме ли да предвидиме скокови на способности или закони за скалирање? | |
| Димензии на влијание | Критериуми | Опис |
| Задача и излез | Задача(и) извршени од системот | Кои задачи ги извршува системот (т.е. препознавање, откривање настани, прогнозирање)? |
| Комбинирање задачи и акции | Дали системот комбинира неколку задачи и активности (т.е. системи за генерирање содржина, автономни системи, системи за контрола)? | |
| Ниво на автономија на системот | Колку се автономни дејствата на системот и каква улога играат луѓето? | |
| Степен на човечка вклученост | Дали има некакво човечко учество за да се надгледува целокупната активност на системот за вештачка интелигенција и способноста да се одлучи кога и како да се користи системот во која било ситуација? | |
| Основна апликација | Дали системот припаѓа на основната област на апликација како што се технологиите на човечки јазик, компјутерската визија, автоматизацијата и/или оптимизацијата или роботиката? | |
| Евалуација | Дали се достапни стандарди или методи за оценување на излезот од системот или за справување со непредвидени итни својства? | |
Клуч за извори на дескриптори
Обичен текст:
Глукман, П. и Ален, К. 2018 година. Разбирање на благосостојбата во контекст на брзите дигитални и поврзани трансформации. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
Задебелен текст:
ОЕЦД. 2022 година. ОЕЦД Рамка за класификација на системи за вештачка интелигенција. OECD Digital Economy Papers, бр. 323, OECD Publishing, Париз. https://oecd.ai/en/classification
Италијански текст:
Нови дескриптори (од повеќе извори)
Еден пат напред
Во зависност од одговорот на овој документ за дискусија, ISC ќе формира експертска работна група за понатамошно развивање или измена на горенаведената аналитичка рамка со која засегнатите страни би можеле сеопфатно да ги разгледаат сите значајни случувања или на платформите или на димензиите на употреба. Работната група би била дисциплински, географски и демографски разновидна, со експертиза која се протега од технолошка проценка до јавна политика, од човечки развој до социологија и фјучерси и технолошки студии.
За да се вклучите во овој документ за дискусија, ве молиме посетете совет.наука/публикации/рамковни-дигитални-технологии
Благодарност
Многу луѓе беа консултирани при развојот на овој труд, кој беше изготвен од Sir Peter Gluckman, претседател на ISC и Хема Шридар, поранешен главен научник, Министерство за одбрана, а сега виш истражувачки соработник, Универзитет во Окленд, Нов Зеланд.
Особено му благодариме на лордот Мартин Рис, поранешен претседател на Кралското друштво и ко-основач на Центарот за проучување на егзистенцијални ризици, Универзитетот во Кембриџ; Професор Шиваџи Сонди, професор по физика на Универзитетот во Оксфорд; Професорот К Виџај Рагаван, поранешен главен научен советник на Владата на Индија; Амандип Синг Гил, претставник на генералниот секретар на ОН за технологија; Д-р Seán Óh Éigeartaigh, извршен директор, Центар за проучување на егзистенцијални ризици, Универзитетот во Кембриџ; Аманда-Џун Браунер, виш советник за политика и Иан Вигинс, директор за меѓународни односи, Кралско друштво ОК; Д-р Џером Дубери, д-р Мари-Лор Салес, директор на Институтот за дипломирани студенти во Женева; Г-дин Чор Фарн Ли, Центар за стратешки иднини, Кабинет на премиерот, Сингапур; Барен Монс и д-р Симон Ходсон, Комитетот за податоци (CoDATA); Проф Јуко Харајама, Јапонија; Професор Реми Квирион, претседател, INGSA; Д-р Клер Крег, Универзитетот во Оксфорд и поранешен раководител на одделот за предвидување, владината канцеларија за наука; и Проф Јошуа Бенџо, Научно-советодавниот одбор на генералниот секретар на ОН и на Универзитетот во Монтреал. Пристапот со листа за проверка беше генерално одобрен и беше нагласена навременоста на која било акција од страна на ISC.
Слика: adamichi на iStock