Американський сенатор Берні Сандерс закликав тимчасово призупинити розробку передових систем штучного інтелекту та заборонити створення штучного надінтелекту, який перевершуватиме людські можливості. Про це він написав у колонці, опублікованій виданням The Atlantic. На думку політика, плани технологічних мільярдерів щодо розвитку ШІ можуть становити загрозу для майбутнього людства.
Сандерс наголошує, що майбутнє людства дедалі більше залежить від рішень невеликої групи найбагатших представників технологічної індустрії. Вони вкладають величезні кошти в штучний інтелект і водночас обговорюють сценарії, за яких люди можуть об'єднатися з машинами або поступитися їм місцем. Свою колонку сенатор розпочав питаннями: «Чи повинні люди залишатися господарями планети Земля? Чи нас мають замінити як домінантний вид?».
Окрему увагу Сандерс приділив висловлюванням керівників провідних технологічних компаній. Зокрема, очільник OpenAI Сем Альтман ще у 2017 році писав, що штучний інтелект може дозволити людству стати першим видом, який самостійно створюватиме власних нащадків. Альтман припускав два сценарії: люди можуть запустити розвиток цифрового інтелекту й згодом відійти на другий план еволюції або знайти спосіб успішно об'єднатися з машинами. Він також висловлював думку, що цей процес уже розпочався.
Глава Anthropic Даріо Амодей допускав можливість того, що моделі штучного інтелекту можуть мати свідомість, хоча це питання залишається відкритим. Окремо сенатор згадав Ілона Маска, який виступає за розвиток надінтелекту, здатного поширитися за межі Землі. Сандерс трактує такі погляди як ознаку того, що деякі представники технологічної індустрії розглядають людство лише як проміжний етап на шляху до цифрової надрозумної системи.
Також він звернув увагу на співзасновника Palantir Пітера Тіля. За словами сенатора, відповідаючи на запитання про бажаність подальшого існування людства, мільярдер не зміг одразу дати однозначну відповідь. Сандерс пов'язує такі погляди з трансгуманізмом — напрямом, прихильники якого вважають, що технології дадуть змогу вийти за межі нинішніх біологічних можливостей людини. Це може передбачати створення нового виду або інтеграцію людського організму з машинами. Прихильники таких концепцій припускають, що майбутні форми життя зможуть перевершити людей за інтелектом, подорожувати космосом і навіть досягти безсмертя.
На думку сенатора, проблема полягає в тому, що подібні ідеї підтримують не лише прихильники наукової фантастики, а й впливові підприємці, які мають ресурси для втілення своїх задумів. Він також наголосив, що можливості штучного інтелекту вже швидко розширюються. Такі системи працюють із мовою, розв'язують складні математичні завдання та дедалі краще імітують спілкування з людьми. Серед прикладів технологічного зближення людини й машин Сандерс навів Neuralink Ілона Маска, яка розробляє мозкові імпланти для взаємодії з комп'ютерами. Ще один приклад — пропозиції щодо створення компаній, якими керуватимуть агенти штучного інтелекту, без обов'язкової участі людей як акціонерів.
Сенатор стверджує, що суспільство не обов'язково підтримує бачення майбутнього, яке просувають керівники технологічних компаній. У своїй колонці він навів дані опитувань, згідно з якими 91% американців вважають, що розвиток штучного інтелекту потребує запобіжників, 74% не довіряють керівникам ШІ-компаній, а 73% побоюються, що ця технологія може загрожувати виживанню людства. Сандерс також згадав застереження Папи Римського Лева XIV щодо технологічного розвитку, який може призвести до знецінення людської гідності. Понтифік попереджав про ризик перетворення людини на набір даних, гвинтик у машині або товар. За словами сенатора, Пітер Тіль у відповідь назвав понтифіка «агентом китайських комуністів».
Сандерс закликав негайно призупинити розробку передових систем штучного інтелекту та заборонити створення штучного надінтелекту до появи механізмів, які гарантуватимуть безпеку цієї технології. Йдеться про системи, інтелект яких перевищуватиме можливості будь-якої людини та які зможуть діяти автономно поза межами людського контролю. Сенатор повідомив, що разом із конгресменом Грегом Касаром просуває законодавчу ініціативу, спрямовану на обмеження таких розробок.
На переконання Сандерса, рішення про майбутнє штучного інтелекту не можна залишати в руках невеликої групи мільярдерів, зацікавлених у грошах і владі. Він вважає, що суспільство та демократичні інституції мають визначати межі технологічного розвитку, щоб людина залишалася в центрі цього процесу. Раніше Дональд Трамп, який активно підтримує розвиток ШІ, оголосив про створення нової урядової структури — «Сил суперінтелекту», яка координуватиме політику американської адміністрації у сфері штучного інтелекту. Водночас співзасновник Microsoft Білл Гейтс попередив, що штучний інтелект може призвести до катастрофічних подій з великою кількістю жертв.
7
