Папа римский Лев XIV призвал не позволить владельцам искусственного интеллекта (ИИ) захватить власть над человечеством. Также понтифик опасается, что искусственный интеллект может усилить войны на Земле.
Об этом говорится в первой энциклике папы, которую он посвятил искусственному интеллекту, передаёт Vatican News.
Документ называется "Великолепное человечество" ("Magnifica humanitas") и проводит мысль, что ИИ должен служить человечеству, а не помогать концентрировать власть.
Vatican News приводит основные положения энциклики:
- Технология не является силой, враждебной человечеству, или злом, но никогда не бывает нейтральной, потому что принимает черты тех, кто её разрабатывает, финансирует, регулирует и использует;
- Технологии не должны находиться в руках немногих, увеличивая разрыв между теми, кто включен в цифровую революцию, и теми, кто исключен из нее. В цифровую эпоху социальная справедливость требует обеспечения справедливого доступа к возможностям для всех людей, защиты наиболее уязвимых, борьбы с ненавистью и дезинформацией, а также подчинения использования технологий общественному контролю, "чтобы руководящим принципом была не только прибыль, но и достоинство каждого человека и общее благо всех людей";
- Необходим бдительный подход к ИИ. Выбор не должен диктовался исключительно эффективностью и прибылью. ИИ может имитировать и моделировать человека, но он не обладает моральным сознанием, эмпатией, межличностными или духовными способностями. Следует быть ответственными на каждом этапе разработки технологии, учитывая правовые рамки в области ИИ;
- Нельзя игнорировать воздействие новых технологий на окружающую среду, поскольку они требуют больших объемов энергии и воды;
- ИИ необходимо разоружить, освободить его от менталитета военной и экономической конкуренции: "Разоружение означает дискредитацию предположения о том, что техническая мощь автоматически дает право на управление. Разоружение не означает отказ от технологий, а предотвращение их господства над человечеством";
- ИИ порождает новые формы рабства, в том числе на добыче редкоземельных элементов, необходимых для технологий. Важно бороться с новыми формами рабства.
Также папа раскритиковал использование оружия, связанного с ИИ, поскольку "нет алгоритма, который мог бы сделать войну морально приемлемой".
"ИИ не устраняет присущую конфликту бесчеловечность; напротив, он может лишь быстрее вызывать конфликты и делать их более безличными, снижая порог для применения насилия, превращая оборону в прогнозирование угроз и тем самым сводя жертв к данным. Таким образом, он приучит нас к мысли, что насилие неизбежно и нуждается лишь в оптимизации", - отметил понтифик.
Отметим, мысли о том, что искусственный интеллект в современных войнах может стать "оружием массового поражения", уже звучат со стороны компаний, которые уже применяют ИИ в военных технологиях.
Как мы писали, Министерство войны США будет использовать нейросеть американского миллиардера Илона Маска Grok для принятия военных решений.
Напомним, председатель Китайской Народной Республики Си Цзиньпин предложил создать международную организацию по контролю за искусственным интеллектом.