Сферический интеллект в вакууме

Допустим, у нас имеется некое информационное поле, в котором действует ИИ.
Для нас это ИП знакомое, для него — ещё нет. Что должен делать ИИ по нашему мнению? Я допускаю, что он должен поступать так, как поступили бы и мы.


Обладая способностью сопереживать, мы можем мысленно поставить себя на место программы, которая работает по пока неизвестному нам принципу и представить, что бы мы делали на её месте.