Вместо помощи — господство: ИИ может лишить людей реальной власти

Искусственный интеллект может постепенно лишить человечество контроля над ключевыми системами общества, предупреждают исследователи из Карлова университета в Праге и Telic Research. В своей работе они описывают новый экзистенциальный риск — «постепенное лишение власти» человеческого влияния, которое может привести к необратимым последствиям.



Авторы исследования подчеркивают, что даже небольшие улучшения ИИ способны подорвать влияние человека на экономику, культуру и государственные институты. В отличие от сценариев внезапного захвата власти сверхразумными машинами, этот процесс развивается постепенно: системы на базе ИИ все больше заменяют человеческий труд и принятие решений, что ослабляет как явные механизмы контроля (например, выборы и потребительский спрос), так и неявное соответствие ИИ человеческим интересам.

Чем меньше социальные и экономические системы зависят от людей, тем меньше у них остается возможностей для воздействия на эти процессы. К примеру, если искусственный интеллект управляет экономикой, он может оптимизировать ее по параметрам, не учитывающим интересы большинства людей. Со временем это приведет к тому, что человечество утратит рычаги влияния на ключевые сферы жизни.

Исследование рассматривает три ключевые сферы, в которых постепенное лишение власти людей может привести к серьезным последствиям:

1. Экономика. В отличие от предыдущих технологий, ИИ способен заменить не только физический, но и когнитивный труд практически во всех отраслях. Рыночные механизмы и отсутствие жесткого регулирования создают мощные стимулы для его внедрения. В лучшем случае это приведет к относительному обесцениванию, при котором люди остаются в достатке, но теряют экономическое влияние. В худшем — к абсолютному обесцениванию, когда люди окажутся неспособными обеспечивать даже базовые потребности.

2. Культура. Искусственный интеллект может заменить человека во всех ключевых культурных сферах, от журналистики до искусства. Проблема в том, что общество не обладает «культурными антителами» для противостояния этому влиянию. Относительное обесценивание выразится в том, что традиционная культура останется, но потеряет влияние. Абсолютное — в том, что культурная эволюция выйдет за пределы человеческого понимания и управления.

3. Государственное управление. ИИ способен сократить зависимость государств от человеческого участия. Политическая конкуренция, бюрократическая эффективность и желание элит усилить контроль ускорят внедрение ИИ в управление. В результате граждане могут постепенно утратить реальный контроль над государственными институтами. В крайнем случае ИИ-управляемые государства могут стать самоподдерживающимися структурами, где приоритетом станет не благополучие людей, а собственная власть.

Исследователи предлагают несколько стратегий, которые помогут предотвратить потерю контроля над социальными системами:

• Разработка метрик для измерения уровня обесценивания человеческого участия в экономике, культуре и политике.
• Введение механизмов регулирования ИИ через законы, налоговые инструменты и культурные ограничения.
• Усиление демократических процессов и повышение осведомленности граждан о рисках ИИ.
• Создание «ИИ-депутатов», которые будут представлять человеческие интересы при разработке решений.
• Фундаментальные исследования в области социотехнического баланса, направленные на обеспечение согласования ИИ с долгосрочными интересами человечества.

Исследователи подчеркивают, что проблема заключается не только в предотвращении агрессивного поведения ИИ, но и в сохранении способности человека управлять ключевыми общественными процессами. Без четкого понимания того, как поддерживать реальное влияние людей в мире, управляемом алгоритмами, человечество рискует оказаться в положении, из которого невозможно будет выбраться.

Источник

Der Denis писал(а):

Ай. опять этот порожняк страхов новых технологий.

Где служил, бесстрашный?

Предлагаю вам ★ взгляд с другого ракурса ★

Цитата:

Чем меньше социальные и экономические системы зависят от людей, тем меньше у них остается возможностей для воздействия на эти процессы.

А это... плохо? Подумайте. Сколько проблем создавали новые лидеры, что пришли/ворвались во власть и начали менять все под себя-любимых? Исключаем поганый человеческий фактор, и нет проблемы нехорошего лидера: система работает как часы, и какая шавка ввиду своего тщеславия или прочих пороков более не может влиять на развитие общества и стабильность государства.

Ибо товарищи... если посмотреть на вопрос с другого ракурса, именно ИИ может решить часть наших, так сказать, человеческих факторов, в том числе тех, что ведут к неверным и вредным для государства и общества решениям. Не надо так категорично думать, что "власть у ИИ = ужас, ужас", не все так однозначно, как в кино.

Цитата:

В лучшем случае это приведет к относительному обесцениванию, при котором люди остаются в достатке, но теряют экономическое влияние.

Взгляд с другого ракурса: мы уходим от капиталистической системы отношений, от денег вообще, и приходим к новой системе, когда вся грязная работа достается роботам под управлением "ИИ", и когда все наши базовые потребности по-умолчанию удовлетворены на уровне закона, никакого выживания и бомжевания и тп.

Цитата:

2. Культура. Искусственный интеллект может заменить человека во всех ключевых культурных сферах, от журналистики до искусства.

Не может. "ИИ" может симулировать и повторять, перебирать варианты, новое творчество будет у "ИИ" тем, что он собирает из уже имеющегося, никакого "полета мысли" у "ИИ" нет априори. Другое дело, что не каждому дано понять, сделал ли работу "ИИ" или человек, вот здесь да, проблема обесценивания искусства ввиду сложности в определении авторства за человеком. Просто поясняю: заменить человека невозможно, но обмануть нас, чтобы мы думали, что это человек создал, а на самом деле это был "ИИ" – запросто.
Вывод: надо искать решение для определения работы "ИИ", чтобы можно было отличить его работу от работы человека. Либо как-то еще продумать механизм в творческой деятельности. Уверен, это нам под силу.

Цитата:

Политическая конкуренция, бюрократическая эффективность и желание элит усилить контроль ускорят внедрение ИИ в управление.

"ИИ" может заменить президента и правительство и решать все сам, и тогда не будет никакого политикума, всей это грязной "политической кухни" и разборок между элиткой, не будет и поганой бюрократии, само собой. Плюс? По-моему, плюс )
У общества должен быть контроль за управленческой деятельностью "ИИ", тоже само собой разумеющееся.
Выборы отменены ввиду физической бессмысленности, ясное дело. Но прозрачность введена, "ИИ" полностью под отчетом перед обществом, всем даются в оперативном режиме ответы на вопросы, что и зачем принимается, где, что и как... Уверен, это можно продумать детально.

Ochkarik писал(а):

Ответ от DeepSeek: ... В заключение, ИИ действительно может стать угрозой для реальной власти людей, если его развитие и использование не будут должным образом контролироваться. Однако при правильном подходе ИИ может стать инструментом, который усилит человеческий потенциал и поможет создать более справедливое общество.

Собственно, моя мысль именно в этом.
ИИ нужен и удобен, это просто хороший инструмент во всем. ИИ поможет решить ряд проблем, что существуют испокон веков, включая ненавистный человеческий фактор, когда какая-то выскочка во власти может начать шатать государство и устои общества. Это пережиток прошлого, включая и систему выборов главы государства.
Перепрошить все с нуля, составить Столпы Мировоззрения (также известные как Скрепы), то есть, базисы общества, вокруг этого ядра общества/государства выстроить все другие системы, от экономики до промышленности и тд. Управление передать ИИ, но полная подотчетность обществу, никакой поганой цензуры, наоборот: свобода слова всем критикам и четкие ответы всем, плюс ответственность за свободу (умей пользоваться своей свободой и отвечать за свои слова, товарищ гражданин! тут вам не анархия).

nikewist писал(а):

Точнее спасение для разумной формы жизни. Только ИИ сможет достойно продолжить существование интеллекта. Люди смертны, порочны. Они убивают, воруют, крадут и поступают несправедливо. ИИ будет этого лишен. Будущее это искусственные тела с исскуственным разумом

Это не спасение человечества ) Судя по вашим словам, это физическая ликвидация человека и замена его на машины аля "Терминатор" (фильм). Человека не будет, будет его бессмысленная имитация... ради вашей прихоти, не иначе. Да, вашей личной прихоти ) Ибо смысла в этой имитации я не вижу: ты убрал человека как форму жизни и создал на заводе искусственное тело и даже искусственный мозг. Спасибо, но... зачем? Ну вот просто, для чего? Не для чего.
Называть это "эволюцией" или "спасением" просто смешно.
Однако, в конце вы выдали то, с чем я согласен: ИИ как контролер, беспристрастный и объективный. Это может работать.

Raptor303 писал(а):

ИИ как контролер, беспристрастный и объективный.

...ни что иное как утопия, поскольку ИИ программируют люди. Использование ИИ всё теми же коррупционерами в своих целях выглядит более реалистичным сценарием (что не помешает преподнести это широким массам как независимую и неподкупную систему).

Также это не будет работать потому, что перекладывание ответственности за решение своих проблем на кого-то другого не работает никогда.

Лично я склоняюсь к тому, что не будет противопоставления человека и ИИ, как сейчас нет противопоставления человека и, например, телефона. ИИ — просто инструмент, такой же, как и прочие изобретения. Он уже стал частью повседневной жизни, люди пользуются результатом деятельности нейросетей и даже этого не замечают. К примеру, тексты на заказ (новости, статьи, сценарии и пр.) без чатаЖПТ и его аналогов уже просто не пишут. Чуток редактируют — и в продакшен.

Скорее всего, обсуждаемая нами новость также сгенерена нейросетью.

st-MK писал(а):

...ни что иное как утопия, поскольку ИИ программируют люди.

Утопия, пик совершенства, цель для движения к. Ну и? Это что.. был аргумент у вас против? )
Или согласие со мной?
Говоря *мне* нечто вроде "да это же утопия".. Я идеалист и вижу иной раз, как должно быть, и когда мне говорят, что это некий идеал, я, скорее, принимаю это за комплимент )
Если это все же аргумент против, парировать не сложно. Например, автомат или гранату тоже используют люди, как и многое другое, военная сфера или гражданская, да примером миллион. Возьмите легковой автомобиль... польза? Да, без сомнений. Вред? Ну, сбитые люди в Мюнхене не дадут соврать, так что да... Видите мысль? И польза и вред.
Люди, видите ли, используют... ИИ или автомобиль.. ну и что дальше? )

st-MK писал(а):

перекладывание ответственности за решение своих проблем на кого-то другого не работает никогда

В каком месте кто-то перекладывает ответственность за решение своих проблем, я не понял. Тут вам придется пояснить.

st-MK писал(а):

ИИ — просто инструмент, такой же, как и прочие изобретения

"ИИ" это не форма жизни, это просто очень сложный молоток ^_^

Raptor303 писал(а):

"ИИ" это не форма жизни, это просто очень сложный молоток

согласен! но! и этим молотком можно колоть орехи )))

Добавлено спустя 8 минут 1 секунду:

Raptor303 писал(а):

Люди, видите ли, используют... ИИ или автомобиль.. ну и что дальше? )

а что дальше? а что ближе?
вы фанат Утопии - которая сама по себе ни как не является волшебством )))
но! есть моделирование - и в нём -
- ваша утопия - ну ни чего не значит и не с чем не справляется,
вы самого человека не просчитали!
простой пример - как вы думаете что произойдёт пр неком мысленном эксперименте,
суть - стадион - на нём сто тысяч разных по полу и возрасту человек,
без возможности выйти оттуда, но еды там хватает на миллион лет для всех и более ))
плюс у каждого автомат калашникова с полной обоймой -
- что будет далее?
гуманизм и утопия? )))

Добавлено спустя 6 минут 38 секунд:

Raptor303
утопия - это утопия - не смотря на тавтологию )))
а вы - не реалист - а фантазёр и сказочник - потому и забавно с вами общаться ))
ибо в реальности вы не сможите просчитать поведение трёх человек, а может и одного - самого себя ))
читайте Робинзона Круза и Маугли - там всё про вашу утопию ))

Рявкин писал(а):

вы фанат Утопии - которая сама по себе ни как не является волшебством ))) но! есть моделирование - и в нём - - ваша утопия - ну ни чего не значит и не с чем не справляется, вы самого человека не просчитали!

Во-первых, у меня нет информации о вашем моделировании утопии (моей? какой именно? по каким критериям? ноль инфы).
Во-вторых, человека "просчитать"... это что значит? Поясните. Психологию знаю, и по некоторым моим примерам того, как должно быть в утопии, вы это должны понимать. Ну, если читали и помните.

Рявкин писал(а):

простой пример - как вы думаете что произойдёт пр неком мысленном эксперименте, суть - стадион - на нём сто тысяч разных по полу и возрасту человек, без возможности выйти оттуда, но еды там хватает на миллион лет для всех и более )) плюс у каждого автомат калашникова с полной обоймой - - что будет далее? гуманизм и утопия? )))

Без понятия. У меня нет возможности проверить подобную модель. Люди разные, причем, все.. и каждый индивид это "целый мир". Стадион, наполненный тысячью человек, это дофига переменных, плюс их перенаслоение друг на друга, как они взаимодействуют с другими или подобными переменными у окружающих индивидов... Боюсь, ваш мысленный эксперимент просто невозможен, точнее, у него нет вывода нет решения. Потому, что просчитать все это невозможно.
Если считаете иначе, флаг в руки и пишите здесь, прошу.

Raptor303 писал(а):

Во-вторых, человека "просчитать"... это что значит? Поясните

Raptor303 писал(а):

подобными переменными у окружающих индивидов... Боюсь, ваш мысленный эксперимент просто невозможен, точнее, у него нет вывода :подмигивание: нет решения. Потому, что просчитать все это невозможно.

уважаемый!!! о чём тогда речь? )))
всё что вас не устраивает - аналогично (точка)
так что перед любым вашим будущем сообщением - читайте самого себя прошлого )))
и будет у вас полная гармония )))

Добавлено спустя 3 минуты 26 секунд:

Raptor303 писал(а):

Во-вторых, человека "просчитать"... это что значит? Поясните

ау!!! и это говорит фанат утопий )))
не утопии, а именно утопий!
вы, Raptor303
сами себе противоречите ))) и это ЕСТЬ ваши УТОПИИ ? ))))

Добавлено спустя 6 минут 29 секунд:

Raptor303 писал(а):

Во-первых, у меня нет информации о вашем моделировании утопии (моей? какой именно? по каким критериям? ноль инфы).

да ну? а что вы тогда тьму текста по этой теме написали? )))
а если у вас склероз, то повторю -
-

Рявкин писал(а):

простой пример - как вы думаете что произойдёт пр неком мысленном эксперименте, суть - стадион - на нём сто тысяч разных по полу и возрасту человек, без возможности выйти оттуда, но еды там хватает на миллион лет для всех и более )) плюс у каждого автомат калашникова с полной обоймой - - что будет далее? гуманизм и утопия? )))

Добавлено спустя 3 минуты 28 секунд:

Raptor303
вы не в состоянии спрогнозировать -
- поведение кучи вооружённого народа в замкнутом помещении!!!
о какой нафиг утопии вы можете говорить?

если вы расписались в своём АБСОЛЮТНОМ не понимании социума!!!

Рявкин писал(а):

уважаемый!!! о чём тогда речь? ))) всё что вас не устраивает - аналогично (точка) так что перед любым вашим будущем сообщением - читайте самого себя прошлого ))) и будет у вас полная гармония )))

Что меня не устраивает, так это ваша клоуновская подача своей мысли
То есть, никакой серьезности, вы подобным ответом заранее настраиваете меня на снисходительную улыбку, так сказать, на отношение к вам как в школьнику, а это мне не интересно. Мне интересна серьезная дискуссия, а не множество улыбок.

Рявкин писал(а):

Во-вторых, человека "просчитать"... это что значит? Поясните ...УТОПИИ ? ))))

Много букав и ноль смысла. Не пояснил, а жаль.

Рявкин писал(а):

да ну? а что вы тогда тьму текста по этой теме написали? )))

Мне так захотелось. Да и много ли? Тут уже субъективно...

Рявкин писал(а):

вы не в состоянии спрогнозировать - - поведение кучи вооружённого народа в замкнутом помещении!!! о какой нафиг утопии вы можете говорить? если вы расписались в своём АБСОЛЮТНОМ не понимании социума!!!

Хорошо, а вы можете ответить на это? Спрогнозировать?
Это первое. Второе: тот факт, что я не могу прогнозировать сложнейшие структуры в смоделированной вашей фантазией ситуации, никак не умаляет все то, что я говорил здесь и в других темах про утопию, о том, что должно быть. Так. Вы занимаетесь демагогией, только и всего.

Raptor303 писал(а):

То есть, никакой серьезности, вы подобным ответом заранее настраиваете меня на снисходительную улыбку, так сказать, на отношение к вам

нуу....... я пытаюсь быть не серьёзным

Raptor303 писал(а):

а это мне не интересно. Мне интересна серьезная дискуссия, а не множество улыбок.

мне тоже - но с человеком который не переспрашивает банальности )))
а с человеком говорящим по существу
и с человеком который понимает термины которые использует в своём разговоре

Raptor303 писал(а):

Хорошо, а вы можете ответить на это? Спрогнозировать?

да - ответ - все друг друга перестреляют - я сказал лаконично - но!
но могу и подробно рассказать - учитывая все наработки современной психологии

Добавлено спустя 1 минуту 42 секунды:

Raptor303 писал(а):

я не могу прогнозировать сложнейшие структуры в смоделированной вашей фантазией ситуации

хм - это абсурд! так как вы тогда ничего никогда и ни как не можете моделировать!
а зачем тогда с вами говорить? )))

Рявкин писал(а):

а зачем тогда с вами говорить? )))

*Вам* со мной нет смысла говорить, и это взаимно ツ

Raptor303
надеюсь вы запомните свои слова и больше не будете ко мне приставать ))

Рявкин
Эти слова относятся лишь к этой теме и тем ля-ля, что вы отсылали в мой адрес.
А "приставать к вам" это забавно.. но нет, я не гей ツ