Вместо помощи — господство: ИИ может лишить людей реальной власти

Искусственный интеллект может постепенно лишить человечество контроля над ключевыми системами общества, предупреждают исследователи из Карлова университета в Праге и Telic Research. В своей работе они описывают новый экзистенциальный риск — «постепенное лишение власти» человеческого влияния, которое может привести к необратимым последствиям.



Авторы исследования подчеркивают, что даже небольшие улучшения ИИ способны подорвать влияние человека на экономику, культуру и государственные институты. В отличие от сценариев внезапного захвата власти сверхразумными машинами, этот процесс развивается постепенно: системы на базе ИИ все больше заменяют человеческий труд и принятие решений, что ослабляет как явные механизмы контроля (например, выборы и потребительский спрос), так и неявное соответствие ИИ человеческим интересам.

Чем меньше социальные и экономические системы зависят от людей, тем меньше у них остается возможностей для воздействия на эти процессы. К примеру, если искусственный интеллект управляет экономикой, он может оптимизировать ее по параметрам, не учитывающим интересы большинства людей. Со временем это приведет к тому, что человечество утратит рычаги влияния на ключевые сферы жизни.

Исследование рассматривает три ключевые сферы, в которых постепенное лишение власти людей может привести к серьезным последствиям:

1. Экономика. В отличие от предыдущих технологий, ИИ способен заменить не только физический, но и когнитивный труд практически во всех отраслях. Рыночные механизмы и отсутствие жесткого регулирования создают мощные стимулы для его внедрения. В лучшем случае это приведет к относительному обесцениванию, при котором люди остаются в достатке, но теряют экономическое влияние. В худшем — к абсолютному обесцениванию, когда люди окажутся неспособными обеспечивать даже базовые потребности.

2. Культура. Искусственный интеллект может заменить человека во всех ключевых культурных сферах, от журналистики до искусства. Проблема в том, что общество не обладает «культурными антителами» для противостояния этому влиянию. Относительное обесценивание выразится в том, что традиционная культура останется, но потеряет влияние. Абсолютное — в том, что культурная эволюция выйдет за пределы человеческого понимания и управления.

3. Государственное управление. ИИ способен сократить зависимость государств от человеческого участия. Политическая конкуренция, бюрократическая эффективность и желание элит усилить контроль ускорят внедрение ИИ в управление. В результате граждане могут постепенно утратить реальный контроль над государственными институтами. В крайнем случае ИИ-управляемые государства могут стать самоподдерживающимися структурами, где приоритетом станет не благополучие людей, а собственная власть.

Исследователи предлагают несколько стратегий, которые помогут предотвратить потерю контроля над социальными системами:

• Разработка метрик для измерения уровня обесценивания человеческого участия в экономике, культуре и политике.
• Введение механизмов регулирования ИИ через законы, налоговые инструменты и культурные ограничения.
• Усиление демократических процессов и повышение осведомленности граждан о рисках ИИ.
• Создание «ИИ-депутатов», которые будут представлять человеческие интересы при разработке решений.
• Фундаментальные исследования в области социотехнического баланса, направленные на обеспечение согласования ИИ с долгосрочными интересами человечества.

Исследователи подчеркивают, что проблема заключается не только в предотвращении агрессивного поведения ИИ, но и в сохранении способности человека управлять ключевыми общественными процессами. Без четкого понимания того, как поддерживать реальное влияние людей в мире, управляемом алгоритмами, человечество рискует оказаться в положении, из которого невозможно будет выбраться.

Источник

weter писал(а):

ну вы даете, сами попали в ловушку смысла, вот сами и выбирайтесь)

не -не !!!
читайте нашу переписку туташнюю ))
я сказал что слово - СЛУЖБА - отдаёт таким понятием как рабство!
а вот слово - работа - имеет волю, смысл и интеллект!

Исходя из вышенаписанного, кто то с сарказмом относится ко всему. Типо ему смешно. Но тут может сыграть знаменитое Смеётся тот, кто смеётся последним. Когда появлялись первые роботы в промышленности, станки с ЧПУ многие так же смеялись. А сейчас многие лишились работы из за этого. Освоится этот ИИ, распознает нутро человека, а там и далее прорыв. Но многим опять иаки смешно.

jurewa777 писал(а):

Когда появлялись первые роботы в промышленности, станки с ЧПУ многие так же смеялись. А сейчас многие лишились работы из за этого. Освоится этот ИИ, распознает нутро человека, а там и далее прорыв. Но многим опять иаки смешно.

вот вы о чём? о интеллекте или о качественном инструменте?
например - калькулятор - прорыв!!!
планирование экономики - разрыв ))
алогичность - ваше всё ))

Рявкин писал(а):

читайте нашу переписку туташнюю )) я сказал что слово - СЛУЖБА - отдаёт таким понятием как рабство!

Это не моя проблема, что там кому и чем отдает. Поэтому все в силе.
Есть понятие службы, есть понятие рабства и работы.
Да, границы размыты, но понятие "кому и чему ты служишь" расставляет все по своим местам,
и точно отражает твое состояние, то есть на каком ты уровне, с чем и кем ты состоишь.
Уровень состояния, с свою очередь, открывает вам соотсветствующие этому уровню знания.
Знания ограничены, состояния - нет.

Когда массоны и дипстэйт начнут искать работу в центрах занятости - поверю....

geek писал(а):

Когда массоны и дипстэйт начнут искать работу в центрах занятости - поверю...

а чё не ищут? ))
может ищут! но просто шифруются, как всегда ))

Рявкин писал(а):

может ищут! но просто шифруются, как всегда ))

конечно, шифруются, потому что уже не массоны, а вообще не пойми что)
Так что большой вопрос, кто это шифровался под массонов все это время?)

weter писал(а):

Да, границы размыты

на этом и остановимся, но!

weter писал(а):

но понятие "кому и чему ты служишь" расставляет все по своим местам, и точно отражает твое состояние, то есть на каком ты уровне, с чем и кем ты состоишь. Уровень состояния, с свою очередь, открывает вам соотсветствующие этому уровню знания. Знания ограничены, состояния - нет.

но! У ВАС ВСЁ ЗЕРКАЛЬНО ))
вы говорите -
weter
я вам говорю - противоположное ))
и?

Цитата:

Власть не может причинить вред народу или своим бездействием допустить, чтобы народу был причинён вред. Власть должена повиноваться всем приказам, которые даёт народ, кроме тех случаев, когда эти приказы противоречат Первому Закону. Власть должена заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

от подобной формулировки у либерах, массонов и депстейт просто бомбит.

А теперь вопрос: кто хочет господства ИИ?

Боты активизировались в защиту ИИ. Ожидаемо.

weter

weter писал(а):

Так что большой вопрос, кто это шифровался под массонов все это время?)

да-да ))
но!
заменим слово массоны на ИИ )))

Добавлено спустя 4 минуты 47 секунд:

DmitryXS писал(а):

Боты активизировались в защиту ИИ. Ожидаемо.

Уважаемый!!!
а можно по конкретнее!!!
кто такие боты и что-кто ИИ?
и чем выражено ваше - Ожидаемо?

Рявкин писал(а):

но! У ВАС ВСЁ ЗЕРКАЛЬНО )) вы говорите - weter я вам говорю - противоположное )) и?

не очень вас понимаю, что и?
какое противоположное то вы говорите?
Да и повторятся не хочу, на ваши вопросы все ответы есть в моих сообщениях.
Просто когда вы пишете, что служение другу можно читать как работа на друга,
у меня впечатление, что я читаю плохой китайский перевод)
Мы же понимания хотим, чего ж тут словами щеголять, что можно так вот сказать еще или эдак.
Иногда полезно - не спорю.
Но я тоже могу хаос развести мало не покажется)))

Добавлено спустя 19 минут 14 секунд:

***

Страна, раскинувшая над собой небо высокой
ясности, не может легко забыть свое назначение.
Страна, воодушевленная идеей равенства, теряет разум.
Страна, забывающая великих, впадает в ничтожество.
Страна, отдающая должное великим, достигает неба.
Страна, воздающая почести подонкам, впадает в дикость.
Страна, убивающая великое в детях, теряет надежду.
Страна, теряющая язык, теряет память.
Страна, потерявшая память, утратила стыд.
Страна, которой нечего терять, ничего не теряет.
Страна, которая ничего не теряет, ничего не находит,
Нельзя потерять то, что имеешь.
Нельзя иметь то, что потерял.
Ничего нельзя иметь.
Всё.

Нью-Йорк, Париж, Москва
1992
АР

weter писал(а):

Просто когда вы пишете, что служение другу можно читать как работа на друга, у меня впечатление, что я читаю плохой китайский перевод)

просто когда вы пишите что читать можно как работа на друга есть ему служение ))
у меня впечатление что мы говорим на разных языках
weter
определитесь в понятиях!!!
что такое - служба!
и что такое - работа!

Добавлено спустя 3 минуты 35 секунд:

weter писал(а):

Нельзя потерять то, что имеешь. Нельзя иметь то, что потерял. Ничего нельзя иметь. Всё.

и Мы все за всё хорошее против всего плохого ))
а смешно мне - потому что всё это БАНАЛЬНО!!
Банальность - это утверждение, которое рассматривается как банальное, бессмысленное или прозаичное, направленное на подавление...

Рявкин писал(а):

weter определитесь в понятиях!!! что такое - служба! и что такое - работа!

прочитайте предыдущие мои сообщения в этом топике и все найдете.
зря писал чтоли.

weter писал(а):

зря писал чтоли.

так - АНАЛОГИЧНО