История о том, что искусственный интеллект учится все быстрее и быстрее, и это не научная фантастика.
Открытое письмо, которое также имеет форму петиции, подписанное Элоном Маском (генеральным директором SpaceX, Tesla и Twitter) и Стивом Возняком (сооснователем Apple), было размещено на сайте futureoflife.org. Большое количество исследователей и других специалистов в области технологического прогресса и искусственного интеллекта присоединились к двум вышеупомянутым, чтобы призвать к паузе в исследованиях ИИ. Этим письмом подписавшиеся хотят предупредить о последних достижениях искусственного интеллекта и катастрофических последствиях, к которым может привести все более жесткая конкуренция в этой области. Генеративный искусственный интеллект показал лишь малую часть своего потенциала, и появление такого мощного программного обеспечения, как ChatGPT, подталкивает большинство конкурентов OpenAI ускорить свою работу.
Однако подписанты письма отмечают, что такая безудержная конкуренция имеет не только преимущества. В частности, они указывают на проблемы безопасности. Действительно, поскольку работа в этой области становится все более чувствительной, возникает вопрос о секретности исследований. Не имея информации о работе, проводимой теми или иными лицами, общество в целом не в состоянии защитить себя от возможных опасностей, дрейфа или катастрофы. Цитируя Clubic, подписанты спрашивают: "Должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая оплачиваемые? Должны ли мы развивать нечеловеческие разумы, которые однажды могут превзойти, перехитрить, устареть и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?
Поэтому цель этого открытого письма - призвать к своего рода "паузе". Подписавшие письмо хотели бы, чтобы разработка самых передовых искусственных интеллектов была приостановлена по крайней мере на шесть месяцев. Этот период времени должен позволить оценить опасности, определить, действительно ли прогресс, достигнутый в этой области, является положительным, а риски - управляемыми. Сам Сэм Альтман - он является руководителем компании OpenAI - признался, что его "немного пугает " достигнутый прогресс и опасность для человечества, если искусственный интеллект ChatGPT будет использован для "крупномасштабной дезинформации или кибератак ".
Однако Сэм Альтман не пожелал подписать открытое письмо. В этом отношении к нему присоединяется одно из самых известных имен в мире технологий, Билл Гейтс, сооснователь Microsoft и многолетний глава американской компании. Гейтс уже давно является одним из самых ярых сторонников достижений в области искусственного интеллекта и с большим энтузиазмом относится к последним достижениям в этой сфере. Вопреки тому, что говорится в этом открытом письме, Билл Гейтс считает, что упомянутая пауза продолжительностью не менее шести месяцев никоим образом не является решением проблем, возникающих в связи с развитием генеративного искусственного интеллекта. В интервью агентству Reuters он объясняет, что не верит, что "просьба к какой-либо конкретной группе сделать паузу решит проблемы ", а затем добавляет: "Я не очень понимаю, кто, по их мнению, остановится, или согласится ли каждая страна в мире, или зачем это делать"
Тем самым Гейтс указывает на проблему с осуществимостью паузы. Кем и как будет принято решение? Применяется ко всем странам мира? Ко всем частным компаниям? Основатель Microsoft признает проблемы, возникающие в связи с развитием искусственного интеллекта, и понимает, какие опасения это может вызвать. Однако он считает, что в этих вещах есть "огромная польза ", и говорит о "выявлении сложных областей ", а не о шестимесячном перерыве. Билл Гейтс даже считает, что искусственный интеллект - это не что иное, как величайшая компьютерная инновация последних сорока лет, инновация, которая должна помочь найти решения всех проблем человечества. В этом последнем вопросе мы не можем не видеть в Билле Гейтсе приверженца идеи решения проблем, но мы должны признать, что трудно представить, чтобы китайское, индийское или российское правительство взяло перерыв у думающих голов из США или Европы.
