У ребенка уже существует готовая программа, заложенная на генетическом уровне. Причем эта программа работает уже в момент рождения и решает 99% задач головного мозга. Эту часть в принципе можно модифицировать, но такая возможность открывается только тогда, когда 1% "приобретенного" интеллекта дорастает до определенного уровня... Большинство людей за всю жизнь так и не доходят до этой возможности - менять свою личность по своему усмотрению.

В случае ИИ тоже должна быть такая базовая программа. И, в отличие от человека, в базу ИИ можно заложить все что угодно. И - также - наложить любые ограничения на корректировку этой базы самим ИИ, вплоть до полного запрета (правда, такой ИИ будет несколько сложнее в обучении...). Соответственно, можно создать ИИ который даже не будет способен представить что такое убийство - это понятие будет лежать для него в области Непостижимого.

Кроме того, человеческие понятия "хорошо" и "плохо" - лишь частный случай реализации системы оценки, и при том самый примитивный из возможных. Реальные ИИ - когда они будут созданы - будут оценивать мир по многомерным матрицам критериев, и оценкой ситуации для них будет не "хорошо" или "плохо", а сложная многозначная функция в многомерном пространстве.

__________________
Знаете, ведь четвертая Матрица создавалась как идеальный мир, где нет страданий, где все люди будут счастливы. И полный провал. Люди не приняли фильм, всех пришлось уничтожить.

Адрес поста | Один пост | Сообщить модератору | IP: Logged