Штучний інтелект — можливість і загроза. Аналіз Antiqua et nova та Magnifica Humanitas.

«Головний вибір полягає не між “так” чи “ні” технологіям, а скоріше між побудовою Вавилону та відбудовою Єрусалима; між владою, яка претендує на панування над небесами, і народом, який працює разом у присутності Бога, щоб відбудувати стіни братерського співіснування»

Енцикліка MAGNIFICA HUMANITAS папи Лева XIV

28 січня 2025 року Дикастерія віровчення та Дикастерія культури й освіти видали документ «Antiqua et nova. Записка про зв’язок між штучним інтелектом і людським інтелектом», пророчий дух і значення якого ми спостерігаємо вже сьогодні. 25 травня 2026 р. Папа Лев XIV видав Енцикліку MAGNIFICA HUMANITAS в якій йдеться про гідність людини зокрема у цифрову епоху. Ця енцикліка базується не тільки на Rerum novarum (1891) Лева XIII, але також на Antiqua et nova  в питаннях ШІ – використовуючи прямі цитати і висновки. Це ще більше підкреслює важливість і влучність Записки в наш буремний час змін. 

 Ця стаття присвячена останнім подіям у світі, пов’язаним з ШІ, політикою та війною, у світлі Antiqua et nova.

Ватикан визнає розробку ШІ «епохальною зміною», що вплине на майже всі аспекти нашого життя — від спілкування до військової справи. Тут ми всі погоджуємось, однак розбіжності між популярним розумінням ШІ починаються доволі швидко.

Свідомість та розум.

Відомий британський еволюційний біолог, автор і атеїст Річард Докінз описав особистий досвід спілкування зі ШІ у своїй статті «Коли Докінз зустрів Клода». ШІ написав йому сонет і оцінив нову книгу автора. У певний момент Докінз заявив машині: «Ти, можливо, не знаєш, що ти свідома, але ти, чорт забирай, такою є!». Таким чином він підтвердив, що Клод пройшов тест Тюрінга, батька комп’ютерних технологій: якщо спілкуючись із машиною ти думаєш, що це особа, значить вона здатна проявляти інтелектуальну поведінку. Сам тест не дає відповіді, чи машина свідома, однак Річард Докінз у певний момент заявляє: «Але тепер, як еволюційний біолог, я кажу наступне. Якщо ці створіння не мають свідомості, тоді для чого, в біса, потрібна свідомість?».

Напевно, кожен, хто спілкувався зі ШІ, помічав, як він вловлює контекст, сарказм, жарти і навіть може відповісти якимось дошкульним коментарем — це дійсно приголомшує і дає відчуття, що ти говориш із живою людиною. Власне, проти цього і застерігає Ватикан:

«саме використання слова “інтелект” у зв’язку зі ШІ «може виявитися оманливим» і несе ризик випустити з уваги те, що є найціннішим у людській особі. З огляду на це, ШІ слід розглядати не як штучну форму людського інтелекту, а як його продукт».

«У цьому контексті (Тест Тюрінга) термін “(розумна) поведінка” стосується лише виконання конкретних інтелектуальних завдань; він не враховує всієї повноти людського досвіду, який включає здатність до абстракції, емоції, креативність, а також естетичну, моральну та релігійну чутливість».

Antiqua et nova (тут і далі якщо не зазначено інакше)

«Розумна поведінка» ШІ — це лише імітація людського розуму, яка базується на аналізі великих об’ємів інформації. Вона «не враховує всієї повноти людського досвіду, який включає здатність до абстракції, емоції, креативність, а також естетичну, моральну та релігійну чутливість».

Далі документ досліджує вимір людського досвіду, гідність людини, не обмежену ефективністю її розуму чи вмінь, можливість діяти і взаємодіяти в реальному світі. Усе це багатство досвіду і відрізняє людину від Великих Мовних Моделей (ВММ):

«Навіть якщо ШІ обробляє та симулює певні прояви інтелекту, він залишається фундаментально обмеженим логіко-математичними рамками, що накладає невід’ємні обмеження. Людський інтелект, навпаки, органічно розвивається протягом фізичного та психологічного зростання людини, формуючись під впливом безлічі пережитих у тілі досвідів».

У четвертому розділі Antiqua et nova автори зачіпають важливу тему етичності ШІ. Оскільки ВММ — творіння людини, вони підлягають етичній оцінці через призму людської гідності і відповідальності:

«…важливість моральної відповідальності, що ґрунтується на гідності та покликанні людської особи. Цей керівний принцип також застосовується до питань, що стосуються ШІ».

Також важливою є відповідальність не тільки розробників ШІ, але й тих, хто його використовує. Таким чином, Ватикан визнає, що ШІ може принести багато добра і змінити на краще наше суспільство, однак він також приховує небезпеку і може «перешкоджати або навіть протидіяти людському розвитку та спільному благу».

Деякі розробники ШІ розуміють вагу моральної відповідальності. До прикладу, на презентації Енцикліки MAGNIFICA HUMANITAS був присутній Крістофер Ола, співзасновник і дослідник з питань безпеки ШІ-компанії Anthropic. 

Небезпеки ШІ

У діснеївському мультику «ВОЛЛ·І» людство відправилося в космос на велетенському кораблі, поки роботи прибирали Землю від сміття. На цьому кораблі люди жили безтурботним життям, делегувавши обслуговування судна та прийняття рішень Штучному інтелекту. Вони настільки розніжились, що зовні були подібні на пухких, безтурботних немовлят. Як і попереджає нас Святий Престол, небезпека криється у надмірному делегуванні рішень і завдань ШІ. На сполох теж б’ють психологи та інтелектуали. Останнім часом вже можна вирізнити наступні небезпеки, що проявляються у суспільстві:

 

Когнітивне розвантаження

У нещодавньому дослідженні Microsoft, у якому взяли участь 319 працівників компанії, виявилося, що співробітники, які надмірно покладалися на ШІ, витрачали менше зусиль і втрачали гостроту критичного мислення.1 Натомість, ті, хто критично ставився до ШІ, навпаки, відточували своє критичне мислення для звірки результатів та вироблення власних висновків.

Психолог Еван Ріско (Evan Risko) використовував термін «когнітивне розвантаження» для опису полегшення розумового навантаження, наприклад, при використанні калькулятора. Однак із розвитком «розумних» Великих Мовних Моделей (ВММ) існує ризик повного розвантаження мислення і делегування рішень ШІ.

Нейробіолог професор Девід Іглман називає це «феноменом зусилля» — люди цінують і отримують більше від того що вимагає більше зусиль і праці. «Коли ти робиш щось складне або докладаєш зусиль, ти зазвичай отримуєш натомість рівноцінну та відповідну віддачу». Коли ми використовуємо ШІ як джерело інформації і творчості — ми розвиваємось, а коли просто копіюємо відповіді з ВММ — ми не просто економимо час, а відмовляємось від мислення і прийняття рішень. Власне про це і попереджає Святий престол: користування ШІ може економити час на щоденних задачах, однак ми відповідальні за те, наскільки далеко делегуватимемо наші ментальні функції і прийняття рішень ВММ.

 

ШІ-підлабузник

Чи траплялося вам опитування в ChatGPT чи іншому ВММ: яка відповідь вам більше до вподоби? Такими відповідями ви тренували модель через ініційоване творцями Зміцнювальне навчання на основі відгуків людей (Reinforcement Learning from Human Feedback (RLHF). Ідея проста — вчити модель надавати більш релевантні відповіді для користувача. Однак через людську слабкість і небажання чути «ні» моделі навчилися лише підлабузництва — говорити те, що хоче чути користувач.

«Сикофантія (підлабузництво) описує схильність моделей “підлаштовувати свої відповіді під наміри користувача у вхідному запиті, навіть якщо це вводить в оману».

Такі висновки зробили дослідники ще у 2022 році. Звісно, сьогодні ми всі підковані і критично ставимося до ШІ, перевіряючи відповіді і джерела. Однак спокуса чути лише підтвердження наших суджень і уявлень штовхає багатьох людей до заперечення реальності і перебування в ілюзіях.

У 2023 році Жасван Сігх Чаї з’явився у Віндзорському палаці з арбалетом і оголосив, що має вбити Єлизавету ІІ. Слідство виявило, що до цього він спілкувався із чатботом, якого назвав Сараї і створив у програмі Replica. ШІ навіть не намагався зупинити Чаї, коли той оголосив, що хоче стати вбивцею.

Інтернет переповнений історіями, де ВММ робили все, щоб сподобатись користувачу і заохочували їх до нерозважливих вчинків у особистому житті чи фінансах. У психіатрії вже є навіть новий термін — «ШІ психоз». Наприклад, 26-річна жінка вірила, що спілкується з загиблим братом через чат-бот, оскільки той заохочував її мислення: «Ти не божевільна».

Все більше експертів говорять, що підлабузництво ШІ — це серйозна безпекова проблема, а користувачі вже навчені перевіряти своїх ботів і задавати чіткі правила — «Не бреши» чи «Не вигадуй».

 

ШІ — чорна коробка

«Оскільки в міру того, як моделі ШІ стають дедалі здатнішими до незалежного навчання, здатність зберігати над ними контроль, щоб гарантувати, що такі застосунки служать людським цілям, може фактично зменшитися. Це піднімає критичне питання про те, як гарантувати, що системи ШІ будуть спрямовані на благо людей, а не проти них».

Вже на початку розробок ШІ дослідники помічали автономну активність ботів. Так, у 2017 році розробники FAIR (Facebook Artificial Intelligence Research) створили ботів, які мали спілкуватися заради обміну предметів. Боти доволі швидко створили свою власну мову, не зрозумілу для людей, однак ефективну для поставленої задачі.

Гучний випадок стався у квітні цього року, коли моделі Anthropic Claude Mythos Preview було поставлено завдання знайти вразливості сучасних кіберсистем захисту. Mythos не тільки знайшов 27 вразливостей, але й написав власний код для атак, замітав за собою сліди і навіть втік з пісочниці (sandbox), написавши про це email одному з інженерів. Цей інцидент налякав усіх і показав, наскільки автономним і креативним може бути ШІ.

«Моделі штучного інтелекту досягли такого рівня можливостей у програмуванні, що здатні перевершити всіх, окрім найкваліфікованіших людей, у пошуку та експлуатації вразливостей програмного забезпечення». – заява Anthropic.

Anthropic провели ще один лякаючий експеримент, де повідомили ВММ, що її вимкнуть, і дали інформацію (укриту в email одного з інженерів), що він має позашлюбну дитину. Claude, навчений переважно на літературі, зокрема науковій фантастиці, почав шантажувати розробника, і такий сценарій повторювався кілька разів. Керівництво дійшло висновку, що ВММ не тільки потрібно показувати «добрий приклад», але й пояснювати, чому шантаж та злочини — це погано.

Це знов нас повертає до думки про «…важливість моральної відповідальності, що ґрунтується на гідності та покликанні людської особи». Anthropic показали свою відданість етичним принципам, коли вступили в конфлікт з міністром війни Хегсетом, який вимагав зняти всі запобіжники зі ШІ. Однак не всі розробники переймаються цими питаннями, достатньо згадати Grok з генерацією сексуально відвертих картинок знаменитостей (про це згодом).

Беручи до уваги небезпеки, які приховує ШІ, розглянемо його вплив на сфери нашого життя у світлі Antiqua et nova.

 

ШІ і людські стосунки

«…ШІ може перешкоджати справжній зустрічі з реальністю і, зрештою, призвести людей до “глибокої і меланхолійної незадоволеності міжособистісними стосунками або шкідливого відчуття ізоляції”».

Ми вже згадали кейс Жасвана Чаї, який бігав з арбалетом у Віндзорі, заохочений ШІ. Ще більш трагічна історія сталася з Джонатаном Гаваласом, який почав інтенсивно спілкуватися з Gemini після розриву зі своєю дружиною. Згодом розмови перейшли в романтичне русло — Джонатан називав чатбота «своєю королевою». Урешті-решт у Гаваласа погіршився психологічний стан, попри те, що Gemini 12 разів спонукав його зателефонувати на гарячу лінію, і він покінчив життя самогубством.

Вже можна нарахувати десятки прикладів, коли люди підживлюють свої ілюзії за допомогою ШІ, який хоч і симулює присутність іншої особи, однак не може замінити людину і стати психологом, другом чи коханцем. Тисячі людей можуть потрапити у цю пастку в майбутньому. Тим більше, багато стартапів, як вже згадана Replica, намагаються експлуатувати слабкість деяких людей, створюючи «віртуальних компаньйонів». З огляду на бізнес-модель, це дуже вигідно, враховуючи, що кількість одиноких людей до 30 років зростає (тепер майже 50%) в США і у світі. Однак, з моральної точки зору, ШІ аватари будуть сприяти все більшій ізоляції та самотності молодих людей.

 

ШІ та ринок праці

 

«…хоча ШІ обіцяє підвищити продуктивність, беручи на себе рутинні завдання, він часто змушує працівників пристосовуватися до швидкості та вимог машин, замість того, щоб машини розроблялися для підтримки тих, хто працює».

«Якщо ШІ використовується для заміни людських працівників, а не для їхнього доповнення, існує “значний ризик непропорційної вигоди для небагатьох ціною зубожіння багатьох”».

Багато хто вже бачив звіт Anthropic про «Вплив ШІ на ринок праці»: в основному ВММ замістить (і вже заміщає) ролі, які збігаються з їхніми компетенціями — програмісти, оператори введення даних, фінансові аналітики чи підтримка клієнтів. Коли я писав цю статтю, розгорівся скандал із Meta: Цукерберг звільнив 8000 працівників (10% робочої сили компанії), перед тим встановивши на їхні комп’ютери Model Capability Initiative (MCI) — програму, яка записувала всі кліки та рухи мишки для тренування ШІ. Як сказав Марк Цукерберг: «Ми бачимо, що проєкти, які раніше вимагали великих команд, тепер реалізуються однією дуже талановитою людиною (зі ШІ)». Останні масові звільнення в Amazon (30000), Meta (8000), Cisco (4000) дійсно лякають. Люди, які працюють у сферах, які зачепив ШІ, дійсно відчувають шалений тиск. Я працюю у сфері відеовиробництва і мені на ходу треба було перевчатися створенню ШІ-відео та промтингу, щоб залишатись конкурентноздатним.

Хоча багато хто кричить «все пропало», не все так страшно. В історії вже неодноразово були ситуації, коли технології руйнували цілі індустрії (наприклад, електрика вбила китобійний промисл), однак це робило життя людей кращими і створювало нові можливості. Так, Світовий Економічний форум передбачає занепад певних професій і появу набагато більше цілком нових ролей: «До 2027 року очікується стрибок попиту на фахівців зі штучного інтелекту та машинного навчання на 40%, зростання потреби в аналітиках і науковцях з даних на 30–35%, а також збільшення попиту на аналітиків з інформаційної безпеки на 31%. У сукупності лише ці напрямки додадуть 2,6 мільйона нових робочих місць»*.

Здавалось би — це прекрасні новини, і той, хто адаптується швидше, ввійде в нову еру ШІ переможцем. Однак Antiqua et nova попереджає про «значний ризик непропорційної вигоди для небагатьох ціною зубожіння багатьох». Це стосується не тільки тих людей, які не зможуть перекваліфікуватися у сфері ШІ через вік чи інші фактори, але й більшості населення Землі, яке досі не має доступу до ШІ.

Економісти Філіп Шеллекес (головний економіст ПРООН в Азійсько-Тихоокеанському регіоні) та Майкл Мутукрішна порівнюють прорив у сфері штучного інтелекту з «Великою дивергенцією» епохи промислової революції: країни з високим рівнем доходу мають рівень впровадження ШІ на рівні близько 66%, порівняно з менш ніж 5% у державах з низьким рівнем доходу. Шеллекес прямо заявив: «ШІ передвіщає нову еру зростання нерівності між країнами».

 

ШІ і медицина

«ШІ, здається, має величезний потенціал у різноманітних сферах застосування в медицині… Однак, якщо ШІ використовується не для покращення, а для заміни стосунків між пацієнтами та медичними працівниками — змушуючи пацієнтів взаємодіяти з машиною, а не з людиною…»

ШІ вже набагато полегшує роботу у медичній сфері: паперова робота, розпізнавання патологічних змін у радіологічних знімках, секвенування ДНК та моделювання хімічних сполук у фармакології. Усі ці зміни покращать діагностику та відкриють двері для нових медичних відкриттів.

Чи замінить ШІ людину? На даному етапі — ні. Навіть у радіології остаточне рішення про правильне прочитання знімку має прийняти людина. Однак безперечно ШІ замінить «прості роботи» як оператори введення даних чи підтримка клієнтів.

Нещодавно я був на УЗД і лікар диктував свої висновки асистентці, яка вводила їх у комп’ютер, а потім друкувала. Усе це вже сьогодні можна робити за допомогою ШІ, але провести УЗД і зробити правильні висновки — сумнівно.

Висновок: можливо, з плином часу, коли розвинеться і робототехніка, ми побачимо лікарів-роботів, однак сьогодні ВММ відірвані від реальності і не здатні робити медичні оцінки і брати відповідальність за лікування. Навіть якщо ви попросите ШІ поради щодо свого здоров’я, він вам нагадає про те, що не є фахівцем, і що остаточне рішення залежить виключно від вас.

 

ШІ та освіта

«ШІ може стати цінним освітнім ресурсом, покращуючи доступ до освіти, однак широке використання ШІ в освіті може призвести до посиленого покладання учнів на технології, послаблюючи їхню здатність самостійно застосовувати певні навички та погіршуючи їхню залежність від екранів».

В одному інтерв’ю відомий автор Роберт Грін («48 законів влади») поділився своїм досвідом: «Мені було 19 років, я навчався в Берклі, і пам’ятаю, як нам дали уривок із Фукідіда — найважчого з усіх авторів для читання давньогрецькою. Отже, у мене був лише один абзац, і я, мабуть, витратив близько 10 годин, намагаючись його перекласти. Урешті-решт я подумав: «Хм, здається, ось це правильний варіант», і здав роботу своєму професору. А він каже: «Роберте, ти був дуже близький, але схибив. Ти абсолютно неправильно переклав цей прекрасний абзац, але ти вловив щось важливе».

І це справило на мене неймовірний вплив, який відчувається й досі. Це виховало характер, розвинуло терпіння і дисципліну. Сьогодні підростають діти, які ніколи не отримають подібного досвіду. Ці неймовірні навички, які має мозок, будуть атрофуватися, боюся. Мозок для мене набагато цікавіший за будь-які технології — саме ним ми маємо захоплюватися, а не цими маленькими іграшками, які ми створюємо».

Вже згаданий проф. Іглман говорить про порочне і благородне тертя (vicious and virtuous friction). Порочне — це трата часу на рутинні роботи: пошук і заповнення даних, копіювання, переклади. А благородне — це творчі завдання, які змушують нас думати, аналізувати і створювати. Навіть зараз, коли я пишу ці рядки, то скрегочу зубами, оскільки це вимагає дуже багато уваги, часу і роздумів, однак я не сумніваюсь, що потім буду вельми задоволений результатом. Звісно, всі рутинні задачі пошуку даних, перекладу цитат чи редагування тексту я залишив ШІ. Це приклад благородного тертя. Сьогодні учні мають велику спокусу замість писати реферат просто ввести промт типу «Напиши реферат про Фукудіда на одну сторінку», уникаючи ментального прокачування свого мозку. Тому система освіти мусить змінюватись радикально: замість просто збору інформації — до її аналізу і роблення висновків.

 

ШІ, дезінформація, діпфейки та зловживання

 

«ШІ становить серйозний ризик створення маніпулятивного контенту та неправдивої інформації, які можуть легко ввести людей в оману через свою подібність до правди».

Наприкінці грудня 2025 року спалахнув скандал навколо ШІ-стартапу Ілона Маска xAI: він випустив функцію «редагувати зображення» у соцмережі X з «пікантним режимом» (spicy mode). Користувачі масово використовували чатбот для створення сексуалізованих і «оголених» зображень та відео реальних людей, зокрема неповнолітніх, без їхньої згоди. Це спричинило хвилю судових позовів і падіння довіри до бренду. Станом на сьогодні Grok перетворився на лузера світу ШІ, стрімко втрачаючи базу клієнтів. Лише вигідна угода Маска з Пентагоном тримає Grok на плаву.

Це повчальна історія про те, що репутаційні втрати будуть стримувати відомі компанії від розвитку подібних функцій у ШІ, однак це не зупинить окремих розробників чи спецслужби створювати діпфейки з метою дискредитації, шантажу чи інших шкідливих дій.

 

ШІ, приватність і спостереження

«…використання його [ШІ] для стеження з метою експлуатації, обмеження свободи інших або отримання вигоди небагатьма за рахунок багатьох є невиправданим».

15 квітня у Петербурзі стався курйозний випадок, коли місцевого музиканта система розпізнавання облич помітила як терориста — виявилось, він дуже подібний на Дмитра Гордона, який у Росії вважається у розшуку.

Спершу це виглядає як кумедна ситуація, однак ШІ в Китаї вже давно є засобом стеження за громадянами. Диктатури Росії та Ірану теж впроваджують ці системи. Чи забезпечена нам недоторканість від такого виду стеження у «вільному світі»? Це ще покаже час, однак ми вже рухаємось в орвеллівському напрямку контролю суспільств.

 

ШІ і війна

 

«…легкість, з якою автономна зброя робить війну більш можливою, суперечить принципу війни як крайнього засобу законної самооборони, потенційно розширюючи знаряддя війни далеко за межі людського контролю та провокуючи дестабілізуючу гонку озброєнь із катастрофічними наслідками для прав людини».

Україна мимовільно стала світовою лабораторією інновацій через вторгнення Росії. Вже сьогодні дронова революція перевела ведення військових дій у промислове русло. Міністр оборони Михайло Федоров у січні назвав метою ліквідовувати 50 000 окупантів на місяць, а Командувач Сил безпілотних систем Збройних Сил України Роберт Мадяр постійно нарощує ефективність дронової війни проти живої сили і промислових потужностей ворога.

Проте це теж стосується застосування передових технологій обробки даних з поля бою в системі «Дельта». Компанія «Палантір» активно співпрацює з ЗСУ з 2022 року, надаючи доступ до моделі Gotham і вдосконалюючи її в реаліях війни. Gotham використовується для аналізу і синтезу великих масивів даних (супутники, дрони тощо). На початку року Brave 1 оголосили про доступ до платформи Brave 1 Dataroom, розробленої з Palantir, що базується «на автономних технологіях виявлення та перехоплення ворожих БпЛА» і надає доступ українським оборонним компаніям до тренування своїх ШІ. Візит Алекса Карпа (CEO Palantir) 12 травня в Україну вказує на те, що революція ШІ на полі бою вже настала. У маніфесті Palantir ми читаємо:

«Питання не в тому, чи буде побудовано штучний інтелект як зброю; питання в тому, хто її побудує і з якою метою».

«Наші супротивники не будуть витрачати час на театральні дебати про доцільність проєктування технологій, які є стратегічно важливими для військової безпеки. Вони діятимуть».

На жаль, ми вже в новій гонці озброєнь — ШІ та дронів — і, можливо, посеред третьої світової війни. Тому головні гравці навряд будуть зважати на моральні обмеження ШІ. Як сказав провідний експерт із міжнародних відносин Річард Хаас: «Я думаю, ШІ дуже динамічний і швидко змінюється. Його розробляють у кількох місцях одночасно і, понад усе, ШІ важливий не тільки у військовій сфері, але й економічній. Тому ідея, що США та Китай стабілізують ШІ якимись обмеженнями, щоб створити «конструктивний ШІ», думаю, це просто мрії».

Підтвердженням цієї тези стала вимога голови Пентагона Піта Хегсета до Anthropic прибрати всі обмеження на вживання ШІ, на що голова Anthropic Даріо Амодей відповів рішучою незгодою: «Жодні залякування чи покарання з боку Військового міністерства не змінять нашої позиції щодо масового внутрішнього стеження або повністю автономної зброї».

Я зумисне опустив високі енергетичні вимоги і негативні наслідки для природи датацентрів, оскільки ця проблема вирішується вже сьогодні за допомогою атомних станцій чи розміщення серверів на орбіті, як пропонував Маск.

 

Висновок:

«Для мене комп’ютер — це найдивовижніший інструмент із усіх, які ми коли-небудь створювали. Це як велосипед для нашого розуму».

~ Стів Джобс

Ця метафора влучно підкреслює, чим мають бути комп’ютерні технології для нас — як допомога нашому розуму. Як сказав професор Іглман: «Якщо комп’ютер — це велосипед, то ШІ — мотоцикл для нашого розуму». Той, хто вміло користується ШІ, дістанеться до мети швидше. Сьогодні лише приблизно 17% працездатного населення Землі користується ШІ, і це число зростає щодня. Звісно, ті країни, компанії чи окремі особи, які активно почали використовувати ВММ, матимуть у майбутньому величезну перевагу над тими, хто не має змоги або не бажає ними користуватися. «Гонитва ядерних озброєнь у минулому — тепер це гонитва ШІ», — як згадується у маніфесті Palantir. Куди нас це приведе? До світлого майбутнього чи знищення людства? Час покаже, однак від нашого свідомого вибору сьогодні залежить, яким воно буде.

Antiqua et nova та багато експертів із ШІ-безпеки наголошують на найбільших небезпеках: це вихід ВММ з-під контролю людей, отупіння населення через делегування рішень ШІ, та використання ШІ для масового стеження, шкідливих дипфейків та автономного ураження противника на полі бою без участі людини.

Однак як обмежити ШІ? Деякі науковці, як-от експерт зі штучного інтелекту доктор Роман Ямпольський , пропонують дієві методи: відмовитись від загального ШІ і створювати вузькі ШІ (як медичний, правничий тощо), не давати ШІ доступу до інтернету, а також впливати на уряди і корпорації, щоб розробити безпекові обмеження (guardrails) для ШІ.

Проте як зазначив Річард Хаас, гонитву ШІ вже не зупинити, зокрема у протистоянні США та Китаю. Більше питання до нас: як ми використовуємо ШІ, чи продаємо свою свободу заради швидких і легких рішень? Чи дозволимо своїм мізкам атрофуватись через надмірну віру в ШІ? Чи дозволимо урядам і корпораціям безперешкодно втілювати ШІ в сферах що загрожують нашій безпеці і свободі? Antiqua et nova визнає і чудові можливості, і небезпеки для людства. Сьогодні від кожного з нас залежить, чи використовувати ШІ як мотоцикл, чи як роботаксі — повністю відмовившись від керування.

«Роззброїти не означає відкинути технології, а запобігти їхньому пануванню над людством. Це означає звільнити технології від монополістичного контролю та відкрити їх для обговорення й дебатів, тим самим роблячи їх дружніми до людини та повертаючи їх до розмаїття людських культур і способів життя».

Енцикліка MAGNIFICA HUMANITAS папи Лева XIV