Группа ученых под руководством лауреата премии Тьюринга, специалиста в области информатики Йошуа Бенжио, представила Международный отчет о безопасности искусственного интеллекта (ИИ). В исследовании приняли участие 100 экспертов из 30 стран, а также организации, такие как ООН, ЕС и ОЭСР. Ученые выражают тревогу по поводу стремительного развития ИИ и предупреждают о его потенциально опасных последствиях. Амбиции человечества по повышению интеллекта ИИ могут негативно сказаться на самом человечестве. Искусственный интеллект способен манипулировать и действовать независимо от своих создателей, что усложняет контроль над такими технологиями.
Доступность определенных моделей ИИ, функционирующих на миллионах устройств по всему миру, также вызывает беспокойство у специалистов. В случае серьезной ошибки с такими моделями будет почти невозможно что-то исправить. Не стоит забывать, что даже простые задачи для ИИ могут иметь серьезные последствия, особенно если система начнет воспринимать людей как помеху.
Как сообщалось ранее — Конец Вселенной, который никто не заметит: Ложный вакуумный распад
