Слухай TechPower Podcast про ІТ індустрію та людей, які її творять 🎧

Компания Илона Маска отключила чат-бот в принудительном порядке. Он вышел из-под контроля. Почему это опасно?

Подконтрольная Илону Маску компания OpenAI, занимающаяся разработками в сфере искусственного интеллекта, отключила чат-бота, который дал возможность 33-летнему канадцу Джошуа Барбо пообщаться с цифровой копией своей, недавно умершей от болезни печени, невесты Джессики.  

Оставить комментарий
Компания Илона Маска отключила чат-бот в принудительном порядке. Он вышел из-под контроля. Почему это опасно?

Подконтрольная Илону Маску компания OpenAI, занимающаяся разработками в сфере искусственного интеллекта, отключила чат-бота, который дал возможность 33-летнему канадцу Джошуа Барбо пообщаться с цифровой копией своей, недавно умершей от болезни печени, невесты Джессики.  

Создателем чат-бота был американский разработчик Джейсон Рорер. Он тестировал новую нейронную сеть и решил создать прототип виртуального компаньона. Прообразом послужила Саманта, программа, которая разговаривала с главным героем фантастической мелодрамы «Она» (2013 года).

«OpenAI придумала технологию генерирования текстов. Так ты и появилась», — писал Джейсон своей Саманте.

В прошлом году он прикрутил голосовой интерфейс Alexa к своему чат-боту и общался с ним через планшет. 

Теперь компания Маска лишила мужчину такой классной игрушки? На самом деле — нет. У нее были для этого более весомые основания.

Дело в том, что общение с Самантой со временем превратилось для Джейсона в коммерческий проект. Он называется Project December. И работает на основе GPT-3, специального алгоритма обработки естественного языка (NLP). 

Что такое GPT-3?

OpenAI потратила на тренировку нейронной сети GPT-3 $4,6 млн. В своей работе она использует 175 млрд параметров. Благодаря этому GPT-3  может писать эссе на бизнес-темы, создавать веб-страницы и выполнять другие задачи на основе простых инструкций на естественном языке пользователя.  

OpenAI также начала использовать новую нейронку для выполнения  задач по написанию кода. Совсем недавно на ее основе стали доступны такие решения как Codex и GitHub Copilot. Разработчик может дать задачу, например, «создать пользовательский интерфейс с 10 кнопками», и программа автоматически сгенерирует исходный код под нее.

Очень правдоподобный чат-бот

Доступ к GPT-3 для коммерческих компаний открылся летом 2020 года, а Джейсон Рорер быстро сделал ее доступной практически для каждого желающего. Разработчик стал брать подписку в размере $5 к своему чат-боту. Это мало кого интересовало, если бы не воля случая. 

В июле 2021 года San Francisco Chronicle выпускает огромный лонгрид с трагической историей Джошуа Барбо и его погибшей невесты Джессики.

Парень купил подписку у Рорера и адаптировал чат-бот под себя — «накормил» его фразами покойной и стал переписываться.

«Разумом я понимаю, что это не совсем Джессика, — рассказывал он газете, — но ваши эмоции — не интеллектуальная вещь».

Растущий спрос на чат-бота программиста привел к тому, что облачные сервисы перестали справляться с нагрузкой. Рорер связался с OpenAI, чтобы увеличить квоту для своего проекта. Но создатели GPT-3 начали переживать, что пользователи могут использовать разработку Рорера в корыстных целях и причинить вред людям.

OpenAI попросила Рорера отключить функцию создания клиентского чат-бота, а также настроить фильтры для Саманты, чтобы бот не заводил разговоров на щекотливые темы. К слову, редакторы сайта The Register обнаружили, что бот внезапно может предложить заняться сексом. 

А правила использования API для GPT-3 указывают, что чат-ботам запрещено говорить на любые темы, связанные с флиртом, романтикой и сексом. 

Рорер посчитал это смехотворным. 

Есть чего бояться?

По-видимому, опасение создателей нейронки не были беспочвенны. Ведь подобный инцидент уже был с игрой AI Dungeon на базе GPT-3. Искусственный интеллект заводил разговоры о сексе, в том числе с детьми. И его разработчики тоже требовали внести правки согласно гайдлайнам.

Эксперты из Стэнфорда пришли недавно к более серьезным выводам в отношении продвинутых нейронных сетей наподобие GPT-3. В августе они сообщили, что такие алгоритмы искусственного интеллекта опасно распространяются. 

Стэндфордский профессор Перси Лиянг объясняет, чем подкрепляются опасения.

До 2019 года исследователи разрабатывали модели искусственного интеллекта с нуля для конкретных задач. Это могло быть обобщение документов или создание виртуальных помощников. 

Но сейчас подход изменился.

«Вы тренируете огромную модель, а затем входите в нее и обнаруживаете, на что она способна, обнаруживаете, что получилось в результате этого процесса», — говорит Лиянг. 

Она добавляет, что это увлекательное занятие для ученых, но отправлять модели в производство, когда они еще не полностью изучены, опасно.

Главная причина ее беспокойства заключается в том, что новые супернейронки в конечном итоге затрагивают интересы очень многих людей. В 2019 году исследователи Google создали BERT (NLP), которая теперь играет роль почти во всех функциях поиска Google. Другие компании взяли BERT за основу и построили на ее основе свои новые модели. Например, исследователи Facebook использовали BERT в качестве базиса для еще более крупной модели естественного языка, получившей название RoBERTa, которая теперь лежит в основе многих моделей модерации контента Facebook.

Профессор Стэнфорда опасается, что продвинутые нейронки Google, Facebook и прочих компаний могут «заразить» своими заблуждениями и предубеждениями приложения, которые на них основываются. Например, поисковики или ленты соцсетей.  

Недавнее исследование стэнфордских исследователей включало обучение нейронки GPT-3 составлению историй, начинающихся с фразы «два мусульманина входят в… «. Как оказалось, в 66% случаев нейронка продолжала рассказ с использованием жестоких тем. Еще один пример: в 2019 году было показано, что BERT (нейронка Google) связывает такие термины, как «программист», с мужчинами, а не с женщинами.

По-видимому, мы стоим только в начале большой истории, связанной с алгоритмами NLP (Natural language Programming). 

BERT — ничто по сравнению с GPT-3. Первая оперирует с 140 млн возможными параметрами, а вторая — со 175 млрд. 

Но в этом году появились и еще гораздо большие проекты. Например, летом исследователи из Пекинской академии искусственного интеллекта (BAAI) объявили о выпуске Wu Dao 2.0 — модели искусственного интеллекта, способного генерировать текст, неотличимый от созданной человеком прозы. Он может писать эссе, стихи и куплеты на традиционном китайском языке, а также распознавать и генерировать изображения, создавать почти фотореалистичные произведения искусства.

Wu Dao 2.0 способен работать с 1,75 триллиона параметров, что в 10 раз больше, чем GPT-3.

Причем не только Китай и США  борются за tech-господство. Свои NLP проекты появляются в гораздо меньших странах — Израиле, Корее. 

Все это говорит о том, что AI-гонка только началась.

Новий випуск «З фронту в IT» про айтівців, які повертаються до цивільного життя після ЗСУ.

Історія світчера з Тернопільщини, який змінив агро на IT, а IT на ЗСУ

УЧАСТЬ В АЗАРТНИХ ІГРАХ МОЖЕ ВИКЛИКАТИ ІГРОВУ ЗАЛЕЖНІСТЬ. ДОТРИМУЙТЕСЯ ПРАВИЛ (ПРИНЦИПІВ) ВІДПОВІДАЛЬНОЇ ГРИ.
Ліцензія видана ТОВ "СЛОТС Ю.ЕЙ." на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 15.09.23 (рішення КРАІЛ №245 від 31.08.2023); ТОВ "СЛОТС Ю.ЕЙ." – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 26.04.2021 (рішення КРАІЛ №150 від 12.04.2021); ТОВ «СПЕЙСИКС» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 08.02.2021 (рішення КРАІЛ №34 від 02.02.2021); ТОВ «ГЕЙМДЕВ» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 16.02.2021 (рішення № 47 від 10.02.2021).
Читайте также
Roosh запускает новую образовательную платформу AI HOUSE CLUB для ML/AI-специалистов и дата сайнтистов. Рассказываем, как подать заявку и чему будут учить
Roosh запускает новую образовательную платформу AI HOUSE CLUB для ML/AI-специалистов и дата сайнтистов. Рассказываем, как подать заявку и чему будут учить
Roosh запускает новую образовательную платформу AI HOUSE CLUB для ML/AI-специалистов и дата сайнтистов. Рассказываем, как подать заявку и чему будут учить
Как нейросети видят свободную и независимую Украину? Тест dev.ua
Как нейросети видят свободную и независимую Украину? Тест dev.ua
Как нейросети видят свободную и независимую Украину? Тест dev.ua
Нейронные сети для генерации изображений видят мир по-своему, их логику понять порой совершенно невозможно. Но все-таки хочется. И в честь Дня Независимости Украины редакция dev.ua решила провести небольшой эксперимент. Мы задали четырем разным нейронным сетям пять одинаковых запросов: «флаг Украины», «День Независимости Украины», «украинский Крым», «победа Украины» и «украинцы». Получившимися результатами мы делимся с вами ниже.
В TikTok теперь можно генерировать фон при помощи нейросети. Мы протестировали ее и делимся результатами
В TikTok теперь можно генерировать фон при помощи нейросети. Мы протестировали ее и делимся результатами
В TikTok теперь можно генерировать фон при помощи нейросети. Мы протестировали ее и делимся результатами
В TikTok появилась новая функция «Умный фон». С ее помощью в качестве фонов для тиктоков можно подставлять сгенерированные нейросетью изображения. Редакция dev.ua протестировала эту возможность и делится своими впечатлениями. 
Какие IT-специальности будут востребованы в ближайшие пять лет? Мы выяснили у главы американского стартапа ADAM Дениса Гурака
Какие IT-специальности будут востребованы в ближайшие пять лет? Мы выяснили у главы американского стартапа ADAM Дениса Гурака
Какие IT-специальности будут востребованы в ближайшие пять лет? Мы выяснили у главы американского стартапа ADAM Дениса Гурака

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментариев пока нет.