Goldman Sachs: Великий американский пузыренадуватель

Как этот принцип реализуется в разработке ИИ?

алгоритмически. думаю, если вы почитаете книжку, многое прояснится. попробуйте, будет интересно

которая обучается и принимает решения, как человек - то думаю, мораль не нужна.

На основании чего тогда принимается решение.
Решение может быть тысячу раз логичным, правильным, истинным, но при этом не должно быть реализовано по этическим и иным соображениям. Да даже и по соображениям чисто практическим.
З.ы. Принять решение и его реализовать - это же две операции. Какой смысл в принятии решений без возможности в их реализации? Если же реализация разрешена, то тогда "ой".

ИИ (да и интеллект вообще) и процесс обучения как-то связаны?
Процесс обучения возможен без проб и ошибок?
Система оценки результата, тест истина/ложь строится на чем?
Полноценна ли эта система без морали и чувств как таковых?

1. Естественный интеллект основан на обучении. Других видов интеллекта мы пока не знаем.
2. Индивидуальный процесс обучения - практически нет (дискутируемы и сами термины "проба" и "ошибка"). Других видов обучения мы пока не знаем.
3. На эффективности результата с точки зрения выживания в широком смысле.
4. Для человека - нет. Он - животное, отягощённое моралью генетически.

которая обучается и принимает решения, как человек - то думаю, мораль не нужна.

На основании чего тогда принимается решение.
Решение может быть тысячу раз логичным, правильным, истинным, но при этом не должно быть реализовано по этическим и иным соображениям. Да даже и по соображениям чисто практическим.
З.ы. Принять решение и его реализовать - это же две операции. Какой смысл в принятии решений без возможности в их реализации? Если же реализация разрешена, то тогда "ой".

решение принимается на основании входящих данных и на основании соответсвующего запроса. например, машине можно скормить терабайты данных по физике, биологии, энергетике, исскуственному фотосинтезу и т.д., а потом попросить выдать какие-то новые решения, которые бы позволили увеличить эффективность этого самого фотосинтеза. естественно, ни о какой реализации речь не идет, этим будет заниматься человек, после собственной оценки результатов, которые выдаст машина.

вы ведь не требуете от калькулятора реализаций? нет, но это не значит, что он бесполезен.

Решение может быть тысячу раз логичным, правильным, истинным, но при этом не должно быть реализовано по этическим и иным соображениям. Да даже и по соображениям чисто практическим.

Морально ли создание ИИ?..

вы ведь не требуете от калькулятора реализаций?

Калькулятор не обладает разумом.

вы ведь не требуете от калькулятора реализаций?

Калькулятор не обладает разумом.

коллега козак говорил о другом. интеллектуальной машине не обязательно давать возможность практической реализации чего-либо. равно как физик-теоретик проектирует коллайдер, но не занимается его постройкой самостоятельно, а дает тех задание инженерам, так и машина может выдавать результатом тех задание людям, не обязательно ее подключать напрямую к 3д принтерам и смотреть что получится

То есть фактически речь идёт о создании мозга для «терминаторов». Вот некоторые его характеристики:

10 миллиардов нейронов
100 триллионов синапсов
энергопотребление в пределах 1 кВт
занимаемый объём — меньше 2 дм3
интерфейсы для сенсорного восприятия и моторных функций

Действительно терминатор. Аморально.

интеллектуальной машине не обязательно давать возможность практической реализации

Как ограничить её в этом?
Есть ответ(?): нужно сохранить её на уровне мыши.

интеллектуальной машине не обязательно давать возможность практической реализации

Как ограничить её в этом?

как минимум, интерфейсами ввода-вывода