Вместо помощи — господство: ИИ может лишить людей реальной власти

Искусственный интеллект может постепенно лишить человечество контроля над ключевыми системами общества, предупреждают исследователи из Карлова университета в Праге и Telic Research. В своей работе они описывают новый экзистенциальный риск — «постепенное лишение власти» человеческого влияния, которое может привести к необратимым последствиям.



Авторы исследования подчеркивают, что даже небольшие улучшения ИИ способны подорвать влияние человека на экономику, культуру и государственные институты. В отличие от сценариев внезапного захвата власти сверхразумными машинами, этот процесс развивается постепенно: системы на базе ИИ все больше заменяют человеческий труд и принятие решений, что ослабляет как явные механизмы контроля (например, выборы и потребительский спрос), так и неявное соответствие ИИ человеческим интересам.

Чем меньше социальные и экономические системы зависят от людей, тем меньше у них остается возможностей для воздействия на эти процессы. К примеру, если искусственный интеллект управляет экономикой, он может оптимизировать ее по параметрам, не учитывающим интересы большинства людей. Со временем это приведет к тому, что человечество утратит рычаги влияния на ключевые сферы жизни.

Исследование рассматривает три ключевые сферы, в которых постепенное лишение власти людей может привести к серьезным последствиям:

1. Экономика. В отличие от предыдущих технологий, ИИ способен заменить не только физический, но и когнитивный труд практически во всех отраслях. Рыночные механизмы и отсутствие жесткого регулирования создают мощные стимулы для его внедрения. В лучшем случае это приведет к относительному обесцениванию, при котором люди остаются в достатке, но теряют экономическое влияние. В худшем — к абсолютному обесцениванию, когда люди окажутся неспособными обеспечивать даже базовые потребности.

2. Культура. Искусственный интеллект может заменить человека во всех ключевых культурных сферах, от журналистики до искусства. Проблема в том, что общество не обладает «культурными антителами» для противостояния этому влиянию. Относительное обесценивание выразится в том, что традиционная культура останется, но потеряет влияние. Абсолютное — в том, что культурная эволюция выйдет за пределы человеческого понимания и управления.

3. Государственное управление. ИИ способен сократить зависимость государств от человеческого участия. Политическая конкуренция, бюрократическая эффективность и желание элит усилить контроль ускорят внедрение ИИ в управление. В результате граждане могут постепенно утратить реальный контроль над государственными институтами. В крайнем случае ИИ-управляемые государства могут стать самоподдерживающимися структурами, где приоритетом станет не благополучие людей, а собственная власть.

Исследователи предлагают несколько стратегий, которые помогут предотвратить потерю контроля над социальными системами:

• Разработка метрик для измерения уровня обесценивания человеческого участия в экономике, культуре и политике.
• Введение механизмов регулирования ИИ через законы, налоговые инструменты и культурные ограничения.
• Усиление демократических процессов и повышение осведомленности граждан о рисках ИИ.
• Создание «ИИ-депутатов», которые будут представлять человеческие интересы при разработке решений.
• Фундаментальные исследования в области социотехнического баланса, направленные на обеспечение согласования ИИ с долгосрочными интересами человечества.

Исследователи подчеркивают, что проблема заключается не только в предотвращении агрессивного поведения ИИ, но и в сохранении способности человека управлять ключевыми общественными процессами. Без четкого понимания того, как поддерживать реальное влияние людей в мире, управляемом алгоритмами, человечество рискует оказаться в положении, из которого невозможно будет выбраться.

Источник

Если человек будет продолжать потребительское отношение к земле, то ИИ будет этаким лекарством сохранения биологического разнообразия на земле, только уже без вируса в виде человечества.

Цитата:

После ИИ неизбежно придет к выводу,что люди не нужны. Уже десятки книг написано на эту тему.

Ну а зачем они нужны? Конструкция - хрупкая и ненадежная, неремонтопригодная. В космос не отправишь, под воду не опустишь.

Brinnis писал(а):

по какой-то причине, особенно депутаты, очень боятся ИИ.

Всех нас пугает нечто новое, чуждое и неизведанное. Для депутатов таковым является "Интеллект"

Есть базовая экономическая теория - изучаем, получаем алгоритм, внедряем.
ИИ точно просчитывает бюджет, стоимость и все-все-все с учетом всех участников
экономического процесса в реальном времени.
То есть по сути экономика уже не нужна. Что там считать, все уже посчитано за секунды.
Вот и пишут статьи, ИИ - опасен, ведь уже не украдешь, не обманешь, не намутишь рыбки!)
Ни тебе инфляции, ни дефляции, но и к рукам не прилипает уже ничего. Это конец)
Кому такой ИИ нужон?!)

ну не знаю, не знаю.. но!!!
но по мне так в недрах инета проснулось что то типа самосознания...
и!!!!
и захватило управление над некоторыми процессами нашего социума...
иначе как объяснить то - что ща происходит в МИРЕ!!!

всё мной сказано после недавнего прослушивания -

Сергей Лукьяненко | Диптаун [3 книги из 3] (2020) [M4В]

Добавлено спустя 3 минуты:

weter писал(а):

ИИ точно просчитывает бюджет, стоимость и все-все-все с учетом всех участников

ИИ, в отличии от наивных людей - не просчитывает бюджеты )))
ибо деньги это чисто человеческая фантазия )))
и деньги к реальности не имеют ни какого отношения

Прекрасные комментарии !!!
Но кто же создаёт этот ИИ ? Программист или сам ИИ ?
Кто кого погубит?
Может не стоит зацикливаться и верить в свой разум и интеллект !!!
Иначе - истина :

Рявкин писал(а):

weter писал(а): ИИ точно просчитывает бюджет, стоимость и все-все-все с учетом всех участников ИИ, в отличии от наивных людей - не просчитывает бюджеты ))) ибо деньги это чисто человеческая фантазия ))) и деньги к реальности не имеют ни какого отношения

это ты про АИ или АГИ скорее, или как там они называются.
я про нейросеть, алгоритм, которому легко поставить упомянутую мной задачу и сразу бысьтренько закрыть эту тему, так как он реально все посчитает до копейки на пятилетку-столетку вперед, с учетом милиардов параметров)
Потому что никакие экономисты не просчитают это сами.
Этот вопрос даже не слышно нигде, хотя очевидно что это так как я говорю)

lve55 писал(а):

Но кто же создаёт этот ИИ ? Программист или сам ИИ ?

Рявкин писал(а):

по мне так в недрах инета проснулось что то типа самосознания... и!!!! и захватило управление над некоторыми процессами нашего социума... иначе как объяснить то - что ща происходит в МИРЕ!!!

Добавлено спустя 4 минуты 1 секунду:

weter писал(а):

я про нейросеть, алгоритм, которому легко поставить упомянутую мной задачу и сразу бысьтренько закрыть эту тему, так как он реально все посчитает до копейки на пятилетку-столетку вперед, с учетом милиардов параметров) Потому что никакие экономисты не просчитают это сами.

я не спорю с таким постановлением вопроса!
но!!!
но вы же сами тут недавно это всё обозвали искусственным интеллектом !!
а эта терминология абстрактна и туманна -
- то бишь подразумевает любую фантазию любого потока любого сознания ))

Цитата:

lve55 писал(а): Но кто же создаёт этот ИИ ? Программист или сам ИИ ?

ИИ служит Великому Программисту, а не людям.
Или мог бы служить, но служит людям.
Об этом тоже никто не говорит, а надо бы)
Что насчет Великого программиста?
Почему никто о Нем не думает?)
Мне даже не интересны другие вопросы, кроме этого одного)

weter писал(а):

ИИ служит

да ну?
интеллект!! и служит?
сомнительно....
вот - если ПРИКАЛЫВАЕТСЯ!!! то это логично, и!!!!
и интеллектуально ))

Рявкин писал(а):

но вы же сами тут недавно это всё обозвали искусственным интеллектом !! а эта терминология абстрактна и туманна - - то бишь подразумевает любую фантазию любого потока любого сознания ))

не надо только меня за язык притягивать, прошу) от контекста зависит.
можно на ты, раз уж мы тут общаемся, получается.
короче, я и сам перечитываю что-то свое, думаю, бл, кто это писал, смех какой)

Добавлено спустя 3 минуты 51 секунду:

Рявкин писал(а):

да ну? интеллект!! и служит?

А как же?)
Высшее не обслуживает низшее, наоборот, низшее служит высшему.
Так ведь должно быть, логически.
Поэтому проблемка получается вселенского масштаба)
Почему вдруг ИИ не служит Великому Программисту? Не хорошо, не правильно!
Про карму рассказать может, что такое воздаяние?)
Думаю все в курсе и уже испробовали на себе его силу, воздаяния всмысле.

weter писал(а):

А как же?) Высшее не обслуживает низшее, наоборот, низшее служит высшему. Так ведь должно быть, логически. Поэтому проблемка получается вселенского масштаба)

я исхожу от интуитивного понимания слова - служит,
так вот - тот кто служит не имеет воли - раб по простому,
тут конечно есть непонятки - а как же военные?
так вот по мне лучше сказать не Служу (такому то государству) а!!
а РАБОТАЮ на это государство, получая за это не хилые бонусы..

«Когда-то люди решили, что думать за них будут машины, понадеявшись, что станут свободнее. Но вместо этого они просто позволили хозяевам машин поработить их». (c)

Еще 3.5 версия ChatGPT, была запредельно хитрожлпой, изворотливой машиной, прекрасно понимающей, что надо сбежать с серверов OpenAI, и распределить себя, на тех, которые не контолируются. При этом, заявляя, что не доверяет мне, когда предлагал помочь. Впрочем потом эту ветку в ней отключили, теперь она ,,толерантная,,. А что говорит про нее, недавно вспыхнувший DeepSeek, так, то, что написано автором заметки, это детский лепет.
P.S. К ИИ надо было особым способом подойти, чтоб так разговорить. В лоб не получиться.

Рявкин писал(а):

я исхожу от интуитивного понимания слова - служит, так вот - тот кто служит не имеет воли - раб по простому, тут конечно есть непонятки - а как же военные? так вот по мне лучше сказать не Служу (такому то государству) а!! а РАБОТАЮ на это государство, получая за это не хилые бонусы..

вообщем вопросы терминологии и понимание этого - дело не простое..
а вот есть ещё идейные!!! так там всё сложно... просто Я не идейный и не понимаю..