Папа римський Лев XIV закликав не дозволити власникам штучного інтелекту захопити владу над людством. Також понтифік побоюється, що штучний інтелект може посилити війни Землі.
Про це йдеться у першій енцикліці тата, яку він присвятив штучному інтелекту, передає Vatican News.
Документ називається "Чудове людство" ("Magnifica humanitas") і проводить думку, що ІІ має служити людству, а не допомагати концентрувати владу.
Vatican News наводить основні положення енцикліки:
- Технологія не є силою, ворожою людству, чи злом, але ніколи не буває нейтральною, тому що набуває рис тих, хто її розробляє, фінансує, регулює та використовує;
- Технології не повинні перебувати в руках небагатьох, збільшуючи розрив між тими, хто включений до цифрової революції, та тими, хто виключений із неї. У цифрову епоху соціальна справедливість вимагає забезпечення справедливого доступу до можливостей для всіх людей, захисту найбільш уразливих, боротьби з ненавистю та дезінформацією, а також підпорядкування використання технологій громадському контролю, "щоб керівним принципом був не лише прибуток, а й гідність кожної людини та загальне благо всіх людей";
- Необхідний пильний підхід до ІІ. Вибір не повинен диктувався виключно ефективністю та прибутком. ІІ може імітувати і моделювати людину, але вона не має моральної свідомості, емпатії, міжособистісних або духовних здібностей. Слід бути відповідальними кожному етапі розробки технології, враховуючи правові рамки у сфері ИИ;
- Не можна ігнорувати вплив нових технологій на навколишнє середовище, оскільки вони потребують більших обсягів енергії та води;
- ІІ необхідно роззброїти, звільнити його від менталітету військової та економічної конкуренції: "Роззброєння означає дискредитацію припущення про те, що технічна міць автоматично дає право на управління. Роззброєння не означає відмову від технологій, а запобігання їх панування над людством";
- ІІ породжує нові форми рабства, у тому числі на видобутку рідкісноземельних елементів, необхідних для технологій. Важливо боротися із новими формами рабства.
Також тато розкритикував використання зброї, пов'язаної з ІІ, оскільки "немає алгоритму, який міг би зробити війну морально прийнятною".
"ІІ не усуває властиву конфлікту нелюдяність; навпаки, він може лише швидше викликати конфлікти і робити їх більш безособовими, знижуючи поріг для застосування насильства, перетворюючи оборону на прогнозування загроз і тим самим зводячи жертв до даних. Таким чином, він привчить нас до думки, що насильство неминуче і потребує лише оптимізації".
Зазначимо, думки про те, що штучний інтелект у сучасних війнах може стати "зброєю масового ураження", вже звучать з боку компаній, які вже застосовують ІІ у військових технологіях.
Як ми писали, Міністерство війни США використовуватиме нейромережу американського мільярдера Ілона Маска Grok для прийняття військових рішень.
Нагадаємо, голова Китайської Народної Республіки Сі Цзіньпін запропонував створити міжнародну організацію контролю за штучним інтелектом.