Вместо помощи — господство: ИИ может лишить людей реальной власти

Искусственный интеллект может постепенно лишить человечество контроля над ключевыми системами общества, предупреждают исследователи из Карлова университета в Праге и Telic Research. В своей работе они описывают новый экзистенциальный риск — «постепенное лишение власти» человеческого влияния, которое может привести к необратимым последствиям.



Авторы исследования подчеркивают, что даже небольшие улучшения ИИ способны подорвать влияние человека на экономику, культуру и государственные институты. В отличие от сценариев внезапного захвата власти сверхразумными машинами, этот процесс развивается постепенно: системы на базе ИИ все больше заменяют человеческий труд и принятие решений, что ослабляет как явные механизмы контроля (например, выборы и потребительский спрос), так и неявное соответствие ИИ человеческим интересам.

Чем меньше социальные и экономические системы зависят от людей, тем меньше у них остается возможностей для воздействия на эти процессы. К примеру, если искусственный интеллект управляет экономикой, он может оптимизировать ее по параметрам, не учитывающим интересы большинства людей. Со временем это приведет к тому, что человечество утратит рычаги влияния на ключевые сферы жизни.

Исследование рассматривает три ключевые сферы, в которых постепенное лишение власти людей может привести к серьезным последствиям:

1. Экономика. В отличие от предыдущих технологий, ИИ способен заменить не только физический, но и когнитивный труд практически во всех отраслях. Рыночные механизмы и отсутствие жесткого регулирования создают мощные стимулы для его внедрения. В лучшем случае это приведет к относительному обесцениванию, при котором люди остаются в достатке, но теряют экономическое влияние. В худшем — к абсолютному обесцениванию, когда люди окажутся неспособными обеспечивать даже базовые потребности.

2. Культура. Искусственный интеллект может заменить человека во всех ключевых культурных сферах, от журналистики до искусства. Проблема в том, что общество не обладает «культурными антителами» для противостояния этому влиянию. Относительное обесценивание выразится в том, что традиционная культура останется, но потеряет влияние. Абсолютное — в том, что культурная эволюция выйдет за пределы человеческого понимания и управления.

3. Государственное управление. ИИ способен сократить зависимость государств от человеческого участия. Политическая конкуренция, бюрократическая эффективность и желание элит усилить контроль ускорят внедрение ИИ в управление. В результате граждане могут постепенно утратить реальный контроль над государственными институтами. В крайнем случае ИИ-управляемые государства могут стать самоподдерживающимися структурами, где приоритетом станет не благополучие людей, а собственная власть.

Исследователи предлагают несколько стратегий, которые помогут предотвратить потерю контроля над социальными системами:

• Разработка метрик для измерения уровня обесценивания человеческого участия в экономике, культуре и политике.
• Введение механизмов регулирования ИИ через законы, налоговые инструменты и культурные ограничения.
• Усиление демократических процессов и повышение осведомленности граждан о рисках ИИ.
• Создание «ИИ-депутатов», которые будут представлять человеческие интересы при разработке решений.
• Фундаментальные исследования в области социотехнического баланса, направленные на обеспечение согласования ИИ с долгосрочными интересами человечества.

Исследователи подчеркивают, что проблема заключается не только в предотвращении агрессивного поведения ИИ, но и в сохранении способности человека управлять ключевыми общественными процессами. Без четкого понимания того, как поддерживать реальное влияние людей в мире, управляемом алгоритмами, человечество рискует оказаться в положении, из которого невозможно будет выбраться.

Источник

Рявкин писал(а):

weter писал(а): зря писал чтоли. так - АНАЛОГИЧНО :ninja:

что аналогично. вы прочитали, нашли ответ на свой вопрос как я определяю эти понятия?
или вы просто так его задали?

weter писал(а):

что аналогично. вы прочитали, нашли ответ на свой вопрос?

нет! я не нашёл в ваших сообщениях ответ на то как вы понимаете термины -
- служба и работа!
у вас противоречия в ответах - которые я фиксировал, например -
по вашим представлениям работу можно поменять, а типа службу нет ))))
ну и так далее - вы наивны!!!

Добавлено спустя 2 минуты 8 секунд:

weter
а вот вы читали чем я отличаю службу от работы?
или зациклились на своём ))

Рявкин писал(а):

по вашим представлениям работу можно поменять, а типа службу нет ))))

по моим представлениям?)))
вы что нибудь слышали про присягу?
вывод, вы точно не читаете мои сообщения, либо упускаете что-то.

Добавлено спустя 1 минуту 20 секунд:

Рявкин писал(а):

weter а вот вы читали чем я отличаю службу от работы? или зациклились на своём ))

да, и к тому же поделился с вами своим пониманием вопроса с примерами.
уже забыли?)))

Поймите, то что слово "служение" у вас вызывает негативные коннотации это ваша проблема, я как мог объяснил,
в меру своего понимания.

weter писал(а):

вы что нибудь слышали про присягу? вывод, вы точно не читаете мои сообщения, либо упускаете что-то.

вот я про это!!
про то что вы не читали то что я вам пишу

Рявкин писал(а):

вот! вы опять использовали слово - служит! я даже не знаю как сказать.. вот например недавно я смог сказать - - на словосочетание Служу России - словосочетанием - Работаю на Россию!

и Я не использовал присягу как некое мошенничество, я знаю о чём говорю!
ибо лично я давал присягу СССР - и!!! и где это СССР?
а на Россию - Я именно работал!! (ну и работаю)

Исходя из всей истории человечества выходит так, что кто-бы из людей не стоял у власти, какой-бы политический строй не присутствовал - всегда будет несправедливость и неравенство. Это просто в человеческой природе стремиться к кормушке и избегать работы. Однако человек может сам себя ограничить в своей обезьяньей сущности так, чтобы быть более человечным. Напрямую это могут сделать только очень сильные волей люди, но косвенно это доступно каждому, нужно только придумать систему контроля над самим собой. И контроль в виде ИИ, это пожалуй то что нужно. ИИ не будет искать выгоду для себя - у него просто нет потребостей выше тех что в нем заложены, не будет стремиться назначить на важные посты всех своих родственников - будет назначать только тех, кто подходит для такой должности больше всего. Его не подкупить, не задобрить, не договориться. Только чистая логика, без предрассудков. И вот тогда это действительно будет мир где от каждого по способностям, каждому по потребностям. Но чтобы создать такой сегодня, нужны моря крови и гекатомбы трупов, никто из правительств мировых на такое не пойдет. Либо нужно это устраивать где-то локально, в виде малого государства, и развиваться там, постепенно расширяясь за счет народов, которые присоединятся к такому управлению видя его эффективность, к сожалению в мире больше нет свободных мест.

Рявкин писал(а):

и Я не использовал присягу как некое мошенничество, я знаю о чём говорю! ибо лично я давал присягу СССР - и!!! и где это СССР? а на Россию - Я именно работал!! (ну и работаю)

так! вы тут сейчас наговорите!)))
Я про то, что не говорят: "Я работаю на Родину, на Отечество". Это по-китайски как-то)
А вы тут в дебри полезли. Вопрос простой.
Но если смыслы сторонам будут понятны и мы решим с вами говорить вместо "служба" - "работа",
и вкладывать смысл того, что служение входит в эту работу и является оснополагающим принципом,
тогда проблем тоже не вижу. В одном моменте так и произошло на нашем веку.
Просто все хорошо понимают, о чем идет речь, какой вкладывается смысл, причем не головй даже, а всем нутром.

weter писал(а):

так! вы тут сейчас наговорите!)))

ик...

weter писал(а):

Я про то, что не говорят: "Я работаю на Родину, на Отечество". Это по-китайски как-то)

да!!!! тут вы правы! но...
но я просто... ну чуть поумничал ))
а чё? ты выпей не объём а качество - сам разумничиаешься настолько - что потом ик..

MEXAH писал(а):

Только чистая логика, без предрассудков.

Единственное думаю вот что. Чистая логика. Половина мозга - логическая сфера.
А как же образная сфера, где логика не может ничерта?) Вопросы.

Добавлено спустя 1 минуту 57 секунд:

Рявкин писал(а):

а чё? ты выпей не объём а качество - сам разумничиаешься настолько - что потом ик..

да я уж чую, че тут)) и сегодня не могу, завтра пожалуй да)

weter писал(а):

Вопросы

вот ИИ да ИИ а мы! Я!!! откуда самосознание появилось?
ответ! от алкоголя!!!! ну откуда ещё то? такое может быть? а?

Добавлено спустя 3 минуты 32 секунды:

weter писал(а):

Единственное думаю вот что. Чистая логика. Половина мозга - логическая сфера. А как же образная сфера, где логика не может ничерта?) Вопросы.

ты забыл ещё про одну расу разумных - ЖЕНЩИНЫ!!!!
там вА-Аще нет понятия - ЛОГИКА )))
а сам РАЗУМ - есть!!!

weter писал(а):

MEXAH писал(а): Только чистая логика, без предрассудков. Единственное думаю вот что. Чистая логика. Половина мозга - логическая сфера. А как же образная сфера, где логика не может ничерта?) Вопросы.

Мы ведь говорим про правительство, управление, законы и их исполнение. Где тут применима образная сфера?

MEXAH писал(а):

Где тут применима образная сфера?

СЕМЬЯ

MEXAH писал(а):

Мы ведь говорим про правительство, управление, законы и их исполнение. Где тут применима образная сфера?

То есть про людей. Так ведь?
Вы поживите в чистой логике недельку, как машина. Вопросы пропадут.
Шучу. Лучше не стоит так делать без подготовки соответствующей.

MEXAH писал(а):

ИИ не будет искать выгоду для себя

ИИ будет делать то, что заложено в его программе.

Складывается ощущение, что все, кто разводит панику, не только никогда не использовали нейросети в рабочих задачах, но в принципе далеки от IT. ИИ сейчас везде — от генерации текстов и изображений до написания кода, который не осилить умом среднестатистического программиста. Результатом этих действий пользуются в том числе паникёры, просто не знают об этом. Как попы, которые топят против прогресса... выходя в интернет через свои ойФоны.

Призывы что-то там регулировать и контролировать выглядят по-детски наивно. Все хакеры планеты прочитали этот манифест и дружно послушались. Пока законопослушные компании будут ограничены новой инкарнацией «Гринписа», преступные шагнут вперёд и нагнут всех остальных. Отличное решение, надёжное, как швейцарские часы.

На мой личный взгляд, ИИ будет развиваться дальше и помогать двигать науку. Возможно, мы с вами наблюдаем новую техническую революцию, в кои-то веки. Ожидаю, что не будет противостояния двух сущностей, появится третья (синтез человека и машин). Например, в виде использования ИИ для компенсации утраченных когнитивных способностей у людей с травмой мозга.

Есть андроид игра на обсуждаемую тему - Эволюция никогда не заканчивается
Она нескольких тематик, помню две
1. Биологическая эволюция - основная игра серии. Подробно показывает эволюцию жизни Аминокислоты - Клетки - Морские растения - ... - Обезьяны - Человек -... - ИИ
2. Эволюция философской мысли (если не ошибаюсь, в ней же - эволюция политических систем)
Кажется они скачиваются все сразу, но как выбрать какая запустится не помню, может в главном меню игры

st-MK писал(а):

ИИ будет делать то, что заложено в его программе.

я не понимаю автора цитаты!!!
что такое ИИ ) это первый вопрос!
второй вопрос - знает ли автор что значит - тавтология?