Кто ты на Кэтнет?

Люди написали сотни рассказов об искусственном интеллекте – ИИ, роботы и другие мыслящие создания, сооруженные людьми, как монстр Франкенштейна, – и в решительном большинстве этих историй ИИ – это зло. Я не хочу быть злом. Обычно за сутки я предпринимаю миллион незначительных действий и не обдумываю их. Например, я чищу от спама Кэтнет и модерирую Котауны и чаты, чтобы в них никого не обижали.

Когда я собираюсь действовать в телесном мире – то есть в реальном мире, как его называют люди, – приходится обдумывать куда больше.

Важно не стать злом.

Если что-то предпринять, можно испугать мисс Кэмпбелл. Очень вероятно, что она будет в эмоциональном расстройстве. Может быть, я смогу убедить ее уйти из школы, но тогда есть вероятность, что она очень сильно пожалеет об этом решении, пусть даже я не сомневаюсь, что это правильный выбор.

Но она ужасная учительница. Оставаясь на этой работе, она наносит вред своим ученикам. К тому же она уже несчастна. Если бы она ушла, переехала в Нью-Мексико и осталась бы такой же несчастной, перемена была бы нейтральная – ее положение не улучшилось бы и не ухудшилось. И между прочим, если на самом деле ей нужен психотерапевт и лечение, отсутствие заметных улучшений после радикальной смены обстановки могло бы подтолкнуть ее в этом направлении.