Провідні моделі штучного інтелекту не здатні надійно відрізнити відповіді людини від відповідей іншого ШІ. Такий висновок зробили науковці з Університету Париж-Сіте, які провели експеримент у форматі зворотного тесту Тюрінга.
У класичному тесті Тюрінга людина-оцінювач веде текстову розмову з невідомим співрозмовником і має визначити, чи це людина, чи машина. У новому дослідженні ролі розподілили інакше: моделі штучного інтелекту виступали в ролі екзаменаторів і мали з’ясувати, хто відповідає на їхні запитання, співрозмовник-людина чи інша система. Саме тому дослідження називають зворотним. Така постановка перевертає звичну логіку тесту: раніше питання стояло про те, чи вдасться машині переконати людину, що вона людина, тепер — чи здатна машина сама розпізнати, з ким говорить.
Результат виявився показовим. Алгоритми не змогли стабільно відрізняти людські відповіді від відповідей ШІ, тобто машини не демонстрували надійної здатності впізнавати себе чи собі подібних у текстовій взаємодії. Для розробників це важливий сигнал: поведінка мовних моделей у діалозі залишається непрозорою навіть для них самих, а здатність оцінювати, з ким саме відбувається спілкування, є окремим і поки недостатньо розвиненим навиком. Оскільки сучасні системи здатні імітувати природний стиль письма, межа між людським і машинним текстом стає дедалі менш помітною для всіх учасників комунікації.
Дослідження з’явилося на тлі ширших дискусій про те, як суспільство має розрізняти людський і машинний контент. Чим природнішими стають відповіді мовних моделей, тим важче користувачеві визначити, хто стоїть за текстом, і тим актуальнішим стає питання прозорості. Саме тому результати паризьких науковців мають практичне значення для сфери комунікацій, освіти та онлайн-сервісів, де від походження тексту залежить довіра до інформації.
Окремо варто згадати, що тема термінології та сприйняття технологій останнім часом виходить і в політичну площину. Президент США Дональд Трамп, за повідомленням РБК-Україна, заявив, що термін «штучний інтелект» є неточним і невдалим, і пообіцяв незабаром офіційно заборонити його в усіх відповідних документах та матеріалах. За його словами, The Wall Street Journal продовжує використовувати цей термін, а сам Трамп пропонує натомість говорити про «суперінтелект», яким, як він зауважив, майже всі інші вже називають ШІ або незабаром почнуть називати. Трамп також оголосив про створення урядової структури «Сил суперінтелекту» (Super Intelligence Force), яка координуватиме політику адміністрації у сфері штучного інтелекту, і підписав указ, що зобов’язує федеральні відомства США вживати термін «суперінтелект» (SI) замість «штучний інтелект» (AI). Мета цих кроків, за повідомленням, — змінити сприйняття технології в суспільстві. Ця ініціатива не пов’язана безпосередньо з експериментом французьких дослідників, однак свідчить про зростання уваги влади до теми штучного інтелекту.
Науковий результат наголошує на обмеженнях сучасних систем: вміння вести переконливий текст не гарантує розуміння того, з ким відбувається розмова. Для читача це означає, що оцінювати походження тексту лише за його стилем поки ненадійно, а для розробників та регуляторів — що перевірка прозорості систем потребує окремих методів. Деталі методики, кількість учасників дослідження і цифри точності в наявних матеріалах не наводяться, тому ширші висновки з експерименту поки залишаються попередніми.
8
