Якобы "сознательный" искусственный интеллект почти готов, но "якобы" важно

РЕДМОНД – Миссией моей жизни было создание безопасного, полезного искусственного интеллекта, который сделает мир лучше. Но в последнее время я все больше обеспокоен тем, что люди начинают настолько сильно верить в ИИ как в сознательных существ, что начинают выступать за "права ИИ" и даже за гражданство для них.

Такое развитие событий может стать опасным поворотом для технологий. Этого следует избегать. Мы должны создавать ИИ для людей, а не чтобы они становились людьми.

В этом контексте дебаты о том, действительно ли ИИ может быть "сознательным", просто отвлекают внимание. В ближайшей перспективе важна иллюзия сознания. Мы уже приближаемся к тому, что я называю "кажущимся сознательным ИИ" ("seemingly conscious AI" – SCAI), который будет имитировать сознание достаточно убедительно.