BMW усовершенствовала принципы робототехники Айзека Азимова

Сегодня такая вещь, как восстание машин, все еще кажется сюжетом для научной фантастики, хотя современные технологии искусственного интеллекта уже вышли на достаточно высокий уровень. Самое время задуматься над тем, как человеку удержать под контролем свое творение.
BMW усовершенствовала принципы робототехники Айзека Азимова
logo15 октября 2020, 18:20
logo0
logo0 мин

Искусственный интеллект (ИИ) пугает многих людей, особенно после того, как Илон Маск в 2018 году заявил, что он "гораздо опаснее, за ядерное оружие" для человеческого вида. И, хотя некоторые настороженно относятся к постоянно растущему присутствию и мощности ИИ, компании полностью осознают выгоды, которые он приносит.

Также интересно: Mercedes-Benz показала прозрачный EQC

"Три закона робототехники" – обязательные правила поведения для роботов, впервые сформулированные писателем Айзеком Азимовым в научно-фантастическом рассказе "Хоровод" в 1942 году. Законы гласят:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;
  2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Это базовые принципы, но они прекрасно работают и в реальном роботостроении. Кодекс BMW "немного" сложнее. Компания заявляет, что ИИ уже широко используется и имеет более 400 случаев приминения во всем производственном процессе и в самых автомобилях. Однако немецкий автопроизводитель стремится держать ИИ на коротком поводке, и установил для него определенные границы.

В BMW Group разработали этический кодекс относительно использования искусственного интеллекта. "Мы работаем целенаправленно и с осторожностью в расширении приложений ИИ внутри компании. Семь принципов искусственного интеллекта в BMW Group являются основой для нашего подхода", – говорит Михаэль Вюртенбергер, руководитель "Проекта ИИ" (Project AI).

Фото: примеры применения ИИ в BMW / BMW Group

Несмотря на то, что искусственный интеллект является ключевой технологией в процессе цифровой трансформации, BMW отмечает, что основное внимание уделяется людям, а роль ИИ заключается в поддержке сотрудников и улучшении взаимодействия с клиентами.

Принципы будут постоянно совершенствоваться и адаптироваться, поскольку ИИ применяется во всех сферах деятельности компании.

Первым и, пожалуй, самым важным принципом является "Патронат и контроль человека". Это означает, что BMW Group внедряет человеческий мониторинг решений, принятых с помощью программ ИИ и рассматривает возможные пути, которыми люди могут отменить алгоритмические решения.

Второй принцип, "Техническая надежность и безопасность", заключается в разработке надежных программ ИИ и соблюдении действующих стандартов безопасности "для уменьшения риска непреднамеренных последствий и ошибок".

Принцип номер три: "Конфиденциальность и управление данными" – это мероприятия, направленные на конфиденциальность и защиту данных, хранящихся и обрабатываемых в программах ИИ.

"Прозрачность" – еще один важный принцип, поскольку BMW Group стремится к "понятности программ ИИ и открытой связи там, где используются соответствующие технологии".

Пятый принцип, который называется "Разнообразие, недискриминация и справедливость", основанный на том, что BMW Group "уважает человеческое достоинство и, следовательно, имеет целью создавать справедливые программы искусственного интеллекта".

"Экологическое и социальное благополучие" – принцип, обязывающий BMW разрабатывать и использовать программы ИИ, способствующие благосостоянию клиентов, сотрудников и партнеров.

Последний принцип "Подотчетности" предусматривает, что программы искусственного интеллекта автопроизводителя должны ответственно работать, а "BMW Group будет определять, оценивать, сообщать и смягчать риски в соответствии с действующими корпоративными стандартами".