Слухай TechPower Podcast про ІТ індустрію та людей, які її творять 🎧
Стас ЮрасовТакая жизнь
9 сентября 2021, 09:33
2021-09-09
Компания Илона Маска отключила чат-бот в принудительном порядке. Он вышел из-под контроля. Почему это опасно?
Подконтрольная Илону Маску компания OpenAI, занимающаяся разработками в сфере искусственного интеллекта, отключила чат-бота, который дал возможность 33-летнему канадцу Джошуа Барбо пообщаться с цифровой копией своей, недавно умершей от болезни печени, невесты Джессики.
Создателем чат-бота был американский разработчик Джейсон Рорер. Он тестировал новую нейронную сеть и решил создать прототип виртуального компаньона. Прообразом послужила Саманта, программа, которая разговаривала с главным героем фантастической мелодрамы «Она» (2013 года).
В прошлом году он прикрутил голосовой интерфейс Alexa к своему чат-боту и общался с ним через планшет.
Теперь компания Маска лишила мужчину такой классной игрушки? На самом деле — нет. У нее были для этого более весомые основания.
Дело в том, что общение с Самантой со временем превратилось для Джейсона в коммерческий проект. Он называется Project December. И работает на основе GPT-3, специального алгоритма обработки естественного языка (NLP).
Очень правдоподобный чат-бот
Доступ к GPT-3 для коммерческих компаний открылся летом 2020 года, а Джейсон Рорер быстро сделал ее доступной практически для каждого желающего. Разработчик стал брать подписку в размере $5 к своему чат-боту. Это мало кого интересовало, если бы не воля случая.
В июле 2021 года San Francisco Chronicle выпускает огромный лонгрид с трагической историей Джошуа Барбо и его погибшей невесты Джессики.
Парень купил подписку у Рорера и адаптировал чат-бот под себя — «накормил» его фразами покойной и стал переписываться.
Растущий спрос на чат-бота программиста привел к тому, что облачные сервисы перестали справляться с нагрузкой. Рорер связался с OpenAI, чтобы увеличить квоту для своего проекта. Но создатели GPT-3 начали переживать, что пользователи могут использовать разработку Рорера в корыстных целях и причинить вред людям.
OpenAI попросила Рорера отключить функцию создания клиентского чат-бота, а также настроить фильтры для Саманты, чтобы бот не заводил разговоров на щекотливые темы. К слову, редакторы сайта The Register обнаружили, что бот внезапно может предложить заняться сексом.
А правила использования API для GPT-3 указывают, что чат-ботам запрещено говорить на любые темы, связанные с флиртом, романтикой и сексом.
Рорер посчитал это смехотворным.
Есть чего бояться?
По-видимому, опасение создателей нейронки не были беспочвенны. Ведь подобный инцидент уже был с игрой AI Dungeon на базе GPT-3. Искусственный интеллект заводил разговоры о сексе, в том числе с детьми. И его разработчики тоже требовали внести правки согласно гайдлайнам.
Эксперты из Стэнфорда пришли недавно к более серьезным выводам в отношении продвинутых нейронных сетей наподобие GPT-3. В августе они сообщили, что такие алгоритмы искусственного интеллекта опасно распространяются.
Стэндфордский профессор Перси Лиянг объясняет, чем подкрепляются опасения.
До 2019 года исследователи разрабатывали модели искусственного интеллекта с нуля для конкретных задач. Это могло быть обобщение документов или создание виртуальных помощников.
Но сейчас подход изменился.
Она добавляет, что это увлекательное занятие для ученых, но отправлять модели в производство, когда они еще не полностью изучены, опасно.
Главная причина ее беспокойства заключается в том, что новые супернейронки в конечном итоге затрагивают интересы очень многих людей. В 2019 году исследователи Google создали BERT (NLP), которая теперь играет роль почти во всех функциях поиска Google. Другие компании взяли BERT за основу и построили на ее основе свои новые модели. Например, исследователи Facebook использовали BERT в качестве базиса для еще более крупной модели естественного языка, получившей название RoBERTa, которая теперь лежит в основе многих моделей модерации контента Facebook.
Профессор Стэнфорда опасается, что продвинутые нейронки Google, Facebook и прочих компаний могут «заразить» своими заблуждениями и предубеждениями приложения, которые на них основываются. Например, поисковики или ленты соцсетей.
Недавнее исследование стэнфордских исследователей включало обучение нейронки GPT-3 составлению историй, начинающихся с фразы «два мусульманина входят в… «. Как оказалось, в 66% случаев нейронка продолжала рассказ с использованием жестоких тем. Еще один пример: в 2019 году было показано, что BERT (нейронка Google) связывает такие термины, как «программист», с мужчинами, а не с женщинами.
По-видимому, мы стоим только в начале большой истории, связанной с алгоритмами NLP (Natural language Programming).
BERT — ничто по сравнению с GPT-3. Первая оперирует с 140 млн возможными параметрами, а вторая — со 175 млрд.
Но в этом году появились и еще гораздо большие проекты. Например, летом исследователи из Пекинской академии искусственного интеллекта (BAAI) объявили о выпуске Wu Dao 2.0 — модели искусственного интеллекта, способного генерировать текст, неотличимый от созданной человеком прозы. Он может писать эссе, стихи и куплеты на традиционном китайском языке, а также распознавать и генерировать изображения, создавать почти фотореалистичные произведения искусства.
Wu Dao 2.0 способен работать с 1,75 триллиона параметров, что в 10 раз больше, чем GPT-3.
Причем не только Китай и США борются за tech-господство. Свои NLP проекты появляются в гораздо меньших странах — Израиле, Корее.
Все это говорит о том, что AI-гонка только началась.
УЧАСТЬ В АЗАРТНИХ ІГРАХ МОЖЕ ВИКЛИКАТИ ІГРОВУ ЗАЛЕЖНІСТЬ. ДОТРИМУЙТЕСЯ ПРАВИЛ (ПРИНЦИПІВ) ВІДПОВІДАЛЬНОЇ ГРИ.
Ліцензія видана ТОВ "СЛОТС Ю.ЕЙ." на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 15.09.23 (рішення КРАІЛ №245 від 31.08.2023); ТОВ "СЛОТС Ю.ЕЙ." – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 26.04.2021 (рішення КРАІЛ №150 від 12.04.2021); ТОВ «СПЕЙСИКС» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 08.02.2021 (рішення КРАІЛ №34 від 02.02.2021); ТОВ «ГЕЙМДЕВ» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 16.02.2021 (рішення № 47 від 10.02.2021).
Roosh запускает новую образовательную платформу AI HOUSE CLUB для ML/AI-специалистов и дата сайнтистов. Рассказываем, как подать заявку и чему будут учить
Как нейросети видят свободную и независимую Украину? Тест dev.ua
Нейронные сети для генерации изображений видят мир по-своему, их логику понять порой совершенно невозможно. Но все-таки хочется. И в честь Дня Независимости Украины редакция dev.ua решила провести небольшой эксперимент.
Мы задали четырем разным нейронным сетям пять одинаковых запросов: «флаг Украины», «День Независимости Украины», «украинский Крым», «победа Украины» и «украинцы». Получившимися результатами мы делимся с вами ниже.
В TikTok теперь можно генерировать фон при помощи нейросети. Мы протестировали ее и делимся результатами
В TikTok появилась новая функция «Умный фон». С ее помощью в качестве фонов для тиктоков можно подставлять сгенерированные нейросетью изображения. Редакция dev.ua протестировала эту возможность и делится своими впечатлениями.