Многие креативщики обеспокоены возможностями генеративного ИИ из-за достижений в моделях преобразования текста в изображение, таких как DALL-E 2, Midjourney и Stable Diffusion. Но теперь даже некоторые люди, участвующие в разработке технологии, забеспокоились, что, вероятно, означает, что мы должны быть напуганы еще больше, чем уже есть.
Более 1000 человек, участвовавших в этой области, в том числе генеральный директор Tesla Илон Маск — один из первых инвесторов компании, ответственной за DALL-E 2, — написали зловещее открытое письмо, призывающее к немедленному шестимесячному запрету на обучение более крупных моделей ИИ. чтобы избежать потенциальных рисков для будущего цивилизации.
Письмо, опубликованное Институтом будущего жизни (откроется в новой вкладке) предупреждает, что развитие искусственного интеллекта превратилось в «опасную гонку», достигнув точки, в которой «системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества».
Они хотят, чтобы разработка была остановлена на шесть месяцев на уровне, достигнутом Open AI GPT-4. И они говорят, что правительства должны вмешаться, чтобы ввести мораторий, если пауза не будет принята быстро.
«Должны ли мы автоматизировать все рабочие места, в том числе выполняющие?» — мрачно спрашивает письмо. «Должны ли мы развивать нечеловеческие умы, которые могли бы в конечном итоге превзойти числом, перехитрить, перехитрить [sic] и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?»
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми», — настаивает он. «Лаборатории ИИ и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки ИИ, которые тщательно проверяются и контролируются независимыми внешними экспертами».
В опасениях, что ИИ может привести к концу цивилизации, какой мы ее знаем, нет ничего нового. Страшно то, что теперь люди, работающие в этой области, некоторые из которых разработали модели ИИ, обеспокоены тем, что ситуация выходит из-под их контроля.
Помимо Маска, который ранее был инвестором Open AI, разработчика DALL-E и ChatGPT, письмо подписал Эмад Мостак, генеральный директор Stable Diffusion, разработчика Stability AI. Среди других подписантов — соучредитель Apple Стив Возняк, канадский ученый-компьютерщик Йошуа Бениго, исследователь искусственного интеллекта Стюарт Рассел, исследователи из исследовательской лаборатории искусственного интеллекта Alphabet DeepMind и глава отдела дизайна Meta Кристофер Рирдон.
Их опасения подчеркивают головокружительные темпы развития ИИ, которые достигли точки, когда даже разработчики моделей ИИ больше не знают точно, на что способны их творения и как они будут себя вести. Это говорит о том, что нам необходимо определить способы регулирования сектора в целом, а также способ решения конкретных проблем, таких как авторское право и дипфейки.
Читать далее:
Загрузка...
