Компанія Anthropic оновила правила використання свого ШІ-асистента Claude. Відтепер вони прямо забороняють систематичне жорстоке поводження з чатботом без очевидної мети. Про це повідомляє The Verge. Також компанія посилила обмеження щодо використання штучного інтелекту для розробки зброї, стеження за людьми та політичних маніпуляцій.
Нові правила забороняють користувачам систематично ображати Claude або поводитися з ним жорстоко без очевидної причини. Водночас Anthropic наголошує, що обмеження стосуватиметься лише крайніх випадків. Воно не поширюється на звичайне невдоволення відповідями чатбота, критику, творчі сценарії з похмурими темами або тестування моделей. Основним способом реагування на таку поведінку залишатиметься припинення розмови. Чи планує компанія застосовувати інші заходи, наприклад блокування акаунтів, наразі невідомо.
Ще в серпні 2025 року Anthropic дозволила Claude завершувати діалоги з користувачами, які постійно поводяться агресивно або намагаються завдати шкоди моделі. Це рішення пов'язане з дослідженнями компанії щодо можливого добробуту ШІ-моделей. Раніше Anthropic також заявила, що виявила в мовних моделей внутрішній «простір мислення».
Anthropic також розширила заборону на використання Claude для створення зброї. Раніше правила вже забороняли застосовувати чатбот для її розробки. Тепер обмеження прямо охоплюють програмне забезпечення та компоненти, необхідні для роботи зброї, а також використання ШІ для озброєння дронів та інших автономних транспортних засобів. У компанії пояснили, що неодноразово фіксували спроби використовувати Claude для створення інструкцій і програм керування озброєнням.
Окремо Anthropic уточнила правила щодо стеження за людьми. Зокрема, заборонено відстежувати людей без їхньої згоди, зокрема аналізуючи раніше зібрані дані. Також забороняється використовувати Claude для визначення того, кого правоохоронці мають розслідувати, затримувати або притягувати до відповідальності. Крім того, не можна створювати або вдосконалювати за допомогою Claude інструменти для стеження. У компанії зазначили, що посилили ці обмеження після виявлення випадків використання Claude для стеження за політичними опонентами та активістами.
Оновлені правила також забороняють використовувати Claude для прихованих політичних і комерційних кампаній. Зокрема, йдеться про створення фейкових акаунтів, масове поширення повідомлень із приховуванням їхнього справжнього замовника та маніпуляції під час виборів. Anthropic прямо заборонила використовувати Claude для поширення неправдивої інформації про кандидатів або процедуру голосування, видавання себе за політиків чи представників виборчих органів, а також спроб перешкодити участі людей у виборах.
Раніше дослідження Anthropic показало, що росіяни намагалися використати Claude для розробки зброї та атак на Україну. Це підкреслює актуальність посилення правил безпеки. Компанія продовжує вдосконалювати політику використання ШІ, реагуючи на нові виклики та загрози.
4
