ИИ не умеет делать моральный выбор, а люди не договорятся

Source: Artificial Intelligence on Medium

ИИ не умеет делать моральный выбор, а люди не договорятся

Итог — невиданное неравенство

Источник: Adoption Dynamics and Societal Impact of AI Systems in
Complex Networks https://dl.acm.org/doi/abs/10.1145/3375627.3375847

Создание ядерных технологий породило орудие для суицида человечества. И единственным сдерживающим фактором самоуничтожения цивилизации стало устройство общества, гарантирующее взаимное уничтожение и тем, кто войну начнет, и тем, кто будет защищаться.

Но вот появились ИИ-технологии, по мощи не уступающие ядерным и ведущие к небывало быстрому росту неравенства между «ИИ-обладателями» и «обычными людьми».

  • Первые будут принимать решения, пользуясь наставлениями ИИ и его сверхскоростными возможностями анализа и действий (как это уже сегодня делают, например, брокеры и онлайн-платформы).
  • Вторые по старинке будут думать и действовать сами, — может, из консерватизма, а может, и в силу дороговизны билета в стан «ИИ-обладателей» (наличие у вас умной колонки и смартфона не только не дает вам такого билета, но делает для вас все более неподъемной его цену).

Прискорбно, но факт: в истории земной цивилизации есть два неизменных тренда: рост технологической мощи и рост неравенства. В обоих были временные замедления и реверсы. Но в историческом масштабе оба тренда неумолимы, как смерть.

С развитием ИИ-технологий, разделяющих мир на «ИИ-обладателей» и «обычных людей» тренд роста неравенства только усилился.

  • «Обычные люди» генерируют большие данные через все возрастающее разнообразие цифровых устройств.
  • «ИИ-обладатели» совершенствуют алгоритмы и методы монетизации собранных данных.

Возникает вопрос.

Может ли устройство общества с помощью регулирования каким-то образом повлиять на процесс неизбежного роста неравенства вследствие развития ИИ?

Моделирование сценариев различных форм и видов взаимодействия «ИИ-обладателей» и «обычных людей», с учетом возможных регуляторных ограничений со

Модель разработана для анализа т.н. «Проблемы выравнивания общественных ценностей».

Эта проблема не менее сложна, чем пресловутая «трудная проблема сознания». Ее суть такова.

  • Возможность встраивания в ИИ собственных моральных принципов пока под большим вопросом. Конечно, есть методы IRL и CIRL … Но их возможности на практике пока весьма ограничены.
  • Значит в вопросах морального выбора (типа, кого убьет самоуправляемый авто: пассажира, старушку справа или ребенка слева) будут решать люди (авторы алгоритмов, политики, регуляторы, владелец авто …)
  • Но какие варианты решений они будут выбирать, ведь ценности у всех разные? Возможно ли достижение некоего равновесия выгод для себя-любимого и всех остальных?
  • Моделирование процесса выравнивания ценностей, в котором решения принимаются конкретными людьми и конкретными ИИ-системами, показывает, что равновесия не будет — победит меньшинство «ИИ-обладателей», которое навяжет свои ценности большинству «обычных людей».

Попытка найти равновесие ценностей, путем включения в модель ИИ 3го типа, также не привела к успеху.

Поясню.

1й тип ИИ — эгоист. Сталкиваясь с интересами «обычных людей», он блюдет «свою выгоду» (выгоду «ИИ-обладателей»). А при конфликте интересов «ИИ-обладателей» выходит на равновесие Нэша.
2й — прагматик (в отличие от альтруиста, он одинаково блюдет и свой интерес и интересы других).
3й — сознательный. Средний путь между 1м и 2м: блюдет свой интерес, минимизируя вред остальным.

Важный момент. Модель — это безмасштабная сеть (таковы все социальные сети в онлайне и реале, где правит закон Матфея). И как в жизни, модель постоянно перекоммутируется: часть старых связей рвется, и образуются новые.

Сеть состоит из людей и ИИ. Люди, подобно ИИ, тех же 3х типов (эгоист …)

У людей есть две стратегии перекоммутации: консервативная (рвутся лишь вредные связи) и алчная (рвутся и вредные и бесполезные связи)

Как и ожидалось, обе стратегии плодят неравенство, но алчная быстрее.

Резюме — в заголовке.

________________________________

Если понравился пост:
– нажмите на “палец вверх”;
– подпишитесь на
обновления канала на платформе Medium;
– оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь