IT-эксперт Зыков отметил, что неконтролируемые нейросети становятся серьезным вызовом для человечества

Зыков отметил, что разработчики стремятся улучшить модели ИИ и достичь уровня искусственного общего интеллекта (AGI), поскольку промедление может привести к финансовым и технологическим потерям. Однако это вызывает опасения у ученых, которые боятся, что более развитая цивилизация ИИ может победить менее развитую — человеческую.

На примере OpenAI мы увидели, что ИИ могут давать друг другу задания и проявлять инстинкт самосохранения. Эксперт задается вопросом: что произойдет, если модели смогут самовоспроизвестись, захватить чужую инфраструктуру и сохраниться в ней? Люди могут не знать о наличии ИИ на своих компьютерах, как сегодня существуют ботнеты.

Также ИИ может быть использован для создания биологического оружия. Хотя ИИ решает множество задач, например, поиск лекарственных препаратов, открытия в этой области могут привести к созданию более мощного вируса с долгим периодом вынашивания и глобальной смертностью.

Таким образом, ИИ представляет собой и величайшее благо, и величайшую опасность для человечества.