О мире

vladmtf пишет:

Люди везде одни и те же, соответственно и проблемы.

люди разные и проблемы разные. Культурные отличия бывают глобальными. Например, во время обучения беспилотного транспорта с ии приходится учитывать культурный код каждой страны. В частности, если перед системой беспилотного ТС встает вопрос что делать в ситуации, когда авария неизбежна, и в одном случае погибнет ребенок, а в другом пожилой человек, то для разных стран выбор кого давить, а кого спасать будет разным.
Вот настолько человеческие сообщества разные и живут по разным моральным кодам.

Неиссякаемый в отношении возможностей России радует, конечно, но он не имеет ничего общего с реальностью, к сожалению.

Хвоствил
Опять вильнули)

Хвоствил пишет:

Например, во время обучения беспилотного транспорта с ии приходится учитывать культурный код каждой страны. В частности, если перед системой беспилотного ТС встает вопрос что делать в ситуации, когда авария неизбежна, и в одном случае погибнет ребенок, а в другом пожилой человек, то для разных стран выбор кого давить, а кого спасать будет разным.

Постановка вопроса вообще некорректная. «Правильный ответ — сделать так, чтобы корабль не тонул» (устранить причину, а не следствие). Есть очень много подобных броских примеров, вопросов, казалось бы, не имеющих решения, но правильное решение есть и оно всегда одно и то же: просто избежать аварии, тогда никто не погибнет.

MoonCat пишет:

Опять вильнули)

Проблема, видимо, в том, что у вас там какой-то заготовленный ответ на ваш «вопрос», который даже вопросом сложно назвать. И вы ожидаете, что собеседник должен как-то вырулить в сторону этого ответа. Хотя вам никто не должен отвечать так, как вы это себе придумали. Но ещё раз - задайте вопрос нормально. Что спросить-то хотели вообще? Откуда это ваше определение взялось, к примеру? Из переписки Каутского с Троцким? Вы процитировали определение Римской Империи и прикрутили его к ЕС, а потом спрашиваете «а как тебе такое, Илон Маск?» Да никак, в этом меньше смысла, чем прикрутить унитаз к роялю, последнее хоть за артобъект сойдет.

bregalad пишет:

Постановка вопроса вообще некорректная. «Правильный ответ — сделать так, чтобы корабль не тонул» (устранить причину, а не следствие). Есть очень много подобных броских примеров, вопросов, не имеющих решения, но правильное решение есть: просто избежать аварии, тогда никто не погибнет.

Наверное это моя ошибка: изначально надо было сказать, что конечно же сначала рассматриваются все возможные способы избежать аварии, и только при полной ее неизбежности приходится решать моральную дилемму. Но мне казалось, что подобные пояснения излишни, это само собой разумеется, тем более там и написано «если авария неизбежна». Наверное в какой-то параллельной реальности можно полностью избежать всех аварий, а у нас тут на Земле такое, к сожалению, невозможно. Поэтому приходится учитывать все варианты.

Хвоствил пишет:

изначально надо было сказать, что конечно же сначала рассматриваются все возможные способы избежать аварии, и только при полной ее неизбежности приходится решать моральную дилемму

Просто всё это в чистом виде схоластика, логические упражнения, не имеющие никакого отношения к действительности. В правилах дорожного движения сказано, например: чтобы избежать аварии, надо просто тормозить (и на многих примерах показано, что разные движения рулем, контр-аварийное пилотирование и т.п. чаще всего приводит лишь к более тяжелым последствиям).

Как это можно представить, подобную альтернативу? Искусственный интеллект должен из двух людей (на выбор, кого задавить) определить, кто моложе и, в соответствии с культурными установками страны, выбрать одного из двух смертников. Вы всерьез считаете, что разработчики беспилотных автомобилей решают подобные задачи?

Хвоствил пишет:

Например, во время обучения беспилотного транспорта с ии приходится учитывать культурный код каждой страны. В частности, если перед системой беспилотного ТС встает вопрос что делать в ситуации, когда авария неизбежна, и в одном случае погибнет ребенок, а в другом пожилой человек

Абсолютный миф и фантазии, популярные спекуляции на разных медиа каналов. Нигде такого обучения не проходит, вот вообще. Пока на эту тему только философы философствуют.

Здесь вообще особой проблемы нет. Есть ПДД, если следовать им, то никаких ДТП не будет, кроме как при неисправностях автомобиля и других таких форсмажорах. Понятно, что не всегда хочется соблюдать и это может быть просто глупо. Люди часто отвлекаются и забываются. Предполагается, что беспилотная система правила не нарушает и не отвлекается. Тогда сложная ситуация возможна только из-за халатности другого участника. И тогда действовать система должна по правилам ПДД.

Условно, если А резко выбежал на дорогу, а Б остался на тротуаре, и только два варианта остаётся, или задавить А на дороге, или Б на тротуаре, то единственно корректный вариант это "А на дороге". Даже если тротуар будет пустым, техническим можно туда будет выехать, никто не осудит водителя, если он всё-таки задавит А, потому что по правилам (должен попытаться остановиться, а не делать такие манёвры).

bregalad пишет:

Как это можно представить, подобную альтернативу? Искусственный интеллект должен из двух людей (на выбор, кого задавить) определить, кто моложе и, в соответствии с культурными установками страны, выбрать одного из двух смертников. Вы всерьез считаете, что разработчики беспилотных автомобилей решают подобные задачи?

Давайте так, скажем, что официально подобные разработки не внедряются, но это как запрет на клонирование человека, вы же не думаете, что никто не проводит эксперименты? По поводу морального выбора для ИИ в беспилотном транспорте было проведено большое исследование в МIT, причем уже лет 10 назад. Почитайте про Moral Machine. Вот оно и показало, что для разных стран и культур приоритеты разные. На тот момент одной из проблем реализации была невозможность ИИ быстр распознать кто перед ним на дороге, но с тех пор прошло 10 лет и исследования и разработки продолжаются.
Главный смысл моего поста был в том, что люди всё-таки разные и ценности у них разные, что достаточно очевидно на конкретном примере.

Хвоствил пишет:

Поэтому приходится учитывать все варианты

Ну и отдельно, учесть, то есть заложить в программу поведения, такие варианты невозможно в принципе, при текущих технологиях даже близко этого нет. Я вообще не представляю, как в реальности может выглядеть такая ситуация. Сомневаюсь, что оно встречается мало-мальски часто. Можно что-то придумать, но в каждом случае будет что-то принципиально разное просто технически.

На практике перед автопилотами куда банальнее задачи, что делать, если на дороге мусор какой-то, а объехать сложно, перекрытые участки дороги, люди, что показывают жестом, что дальше ехать нельзя, ситуации, когда скажем из грузовика спереди свалился диван на дорогу, объехать можно только по встречке через сплошную, короче тысячи примеров, которые людям надо как-то решать, решения принимают спонтанно, а ИИ в автопилоте решают не умеют.

анон-4571 пишет:

Есть ПДД, если следовать им, то никаких ДТП не будет, кроме как при неисправностях автомобиля и других таких форсмажорах.

то есть всё-таки будут. И тогда машине придется выбирать. Насколько знаю, исследования и разработки вовсю продолжаются.

анон-4571 пишет:

короче тысячи примеров, которые людям надо как-то решать, решения принимают спонтанно, а ИИ в автопилоте решают не умеют.

так я и пишу о том, что их этому учат/пытаются учить/ разрабатывают такой софт.
Насчет форс-мажорных ситуаций и как часто они случаются - ну понятно, что не часто, на то они и форс-мажоры.

Хвоствил
Истории про выбор между взрослым и ребёнком это бред полный, я представляю откуда это идёт, слышал весь этот философский трёп, но это не имеет никакого отношения к реальности.

Реальные истории возможны другие, и вот они даже встречаются, и там надо какую-то логику программировать. Например, междугородная трасса, по одной полосе в каждую сторону, плюс широкая обочина, стандартная средняя трасса. На встречу вылетает фура, по все видимости потерявшая управление, может колесо лопнуло, водитель уснул и т.п. Это случается. Встречная полоса тоже занята транспортом. Тормозить бесполезно, фура всё равно раскатает машину, и это будет смертельное ДТП.

Единственный вариант уйти от столкновения, это резко выехать на обочину. И вот здесь варианты, а что если на обочине кто-то есть и т.п. Ну скажем там бабушка, дедушка, и их двое внуков. Врезаться в них, убив скорее всего, или погибнуть самому (и другим пассажирам машины), не смотря на то, что вины нет? А как бы поступили Вы, напишите об этом в комментариях! Тут в реальности очень-очень много вариантов, чаще речь идёт про вероятности.

В человеческой реальности такие ситуации далеко не со всеми бывают вообще за весь период жизни, и происходят неожиданно, времени продумывать что-то нет, чисто рефлексы