AGI – United Nations
Artificial General Intelligence и глобалното управление
Д-р Мариана Тодорова е сред подбраните експерти в Панела на Организацията на обединените нации за Генерален изкуствен интелект (Artificial General Intelligence – AGI). Този панел има за цел да подпомага международния дебат и формирането на глобални политики, свързани с развитието и управлението на напреднали интелигентни системи.
Генералният изкуствен интелект представлява качествено различен етап от развитието на изкуствените системи – такъв, при който те могат да учат, да обобщават, да вземат решения и да функционират отвъд строго зададени задачи. Макар AGI все още да се разглежда основно в теоретичен и прогностичен план, неговите потенциални последици изискват предварителна етична, правна и институционална подготовка.
Панелът на ООН за AGI обединява международни експерти от различни области – философия, етика, технологии, право, политика и стратегическо предвиждане. Основната му задача е да анализира дългосрочните рискове и възможности, свързани с развитието на генерален изкуствен интелект, както и да подпомага изграждането на общи принципи и насоки за глобално управление.
Работата в рамките на този формат е насочена към въпроси, които надхвърлят националните регулации и изискват координиран международен подход. Сред тях са отговорността при автономни решения, въздействието върху демократичните процеси, човешките права, сигурността и бъдещето на институциите.
Фокус на участието на д-р Мариана Тодорова
Участието на д-р Мариана Тодорова в Панела на ООН за AGI е свързано с изследване на философските, етичните и управленските измерения на напредналия изкуствен интелект. Нейната работа е фокусирана върху необходимостта от дългосрочно стратегическо мислене и създаване на рамки, които да предвиждат не само технологичния напредък, но и неговите социални и морални последици.
Особен акцент се поставя върху въпроса за отговорността – кой носи отговорност за решения, взети от автономни интелигентни системи, и какви механизми могат да гарантират, че развитието на AGI ще бъде в съответствие с човешките ценности и обществените интереси.
AGI, несигурност и бъдещи сценарии
Развитието на генерален изкуствен интелект поставя човечеството пред нов тип несигурност. За разлика от тесния изкуствен интелект, AGI би могъл да влияе едновременно върху множество сфери – икономика, право, образование, сигурност и управление. Това изисква работа със сценарии, а не с еднозначни прогнози.
В този контекст се разглеждат различни възможни бъдещи развития – от сценарии, в които AGI подпомага вземането на по-информирани решения и глобално сътрудничество, до такива, в които липсата на адекватни регулации създава сериозни рискове за обществата и институциите.
Значението на глобалното сътрудничество
Един от ключовите изводи в работата на експертния панел е, че управлението на AGI не може да бъде ефективно на национално ниво. Напредналите интелигентни системи изискват координирани международни усилия, споделени етични принципи и съвместни политики.
Ролята на Организацията на обединените нации в този процес е да осигури платформа за диалог, експертен анализ и изграждане на рамки, които да насочват развитието на AGI по начин, съвместим с дългосрочната устойчивост на човешките общества.