Почему мы так одержимы умопомрачительным чат-ботом ChatGPT AI?

Этот бот с искусственным интеллектом может отвечать на вопросы, писать эссе, обобщать документы и писать программное обеспечение. Но в глубине души он не знает, что правда, а что нет…

---

Даже если вы не занимаетесь искусственным интеллектом, пора обратить внимание на  ChatGPT, потому что это очень важно.

Инструмент от мощного игрока в области искусственного интеллекта под названием OpenAI позволяет вводить подсказки на естественном языке. Затем ChatGPT предлагает разговорные, хотя и несколько неестественные ответы . Бот запоминает цепочку вашего диалога, используя предыдущие вопросы и ответы, чтобы сообщить свои следующие ответы. Он черпает ответы из огромных объемов информации в Интернете.

ChatGPT — это круто. Инструмент кажется довольно хорошо осведомленным в областях, где есть хорошие данные для обучения, на которых он может учиться. Он еще недостаточно всезнающий или умный, чтобы заменить всех людей, но он может быть творческим, и его ответы могут звучать совершенно авторитетно. Через несколько дней после запуска ChatGPT опробовали более миллиона человек .

Но будьте осторожны, предупреждает OpenAI. ChatGPT имеет множество потенциальных ловушек, некоторые из которых легко обнаружить, а некоторые — более тонкие.

«Ошибочно полагаться на него сейчас для чего-то важного», — написал в Твиттере исполнительный директор OpenAI Сэм Альтман. «Нам предстоит много работы над надежностью и правдивостью». Давайте посмотрим, почему ChatGPT важен и что с ним происходит.

Это становится большим бизнесом. В январе Microsoft пообещала инвестировать миллиарды долларов в OpenAI. Модифицированная версия технологии, лежащей в основе ChatGPT, теперь обеспечивает новый вызов Microsoft Bing для поиска Google и, в конечном итоге, усилит работу компании по внедрению новых интеллектов второго пилота AI во все сферы нашей «цифровой жизни».

Bing использует технологию OpenAI для обработки поисковых запросов, компиляции результатов из разных источников, обобщения документов, составления маршрутов поездок, ответов на вопросы и вообще просто общения с людьми. Это потенциальная революция для поисковых систем, но она страдает от таких проблем, как фактические ошибки и беспорядочные разговоры.

Что такое ChatGPT?

ChatGPT — это система чат-ботов с искусственным интеллектом, которую OpenAI выпустила в ноябре, чтобы продемонстрировать и проверить, на что способна очень большая и мощная система искусственного интеллекта. Вы можете задать ему бесчисленное количество вопросов и часто получите полезный ответ.

Например, вы можете задать ему вопросы из энциклопедии, к примеру: «Объясните законы движения Ньютона». Вы можете сказать ему: «Напиши мне стихотворение», а когда это произойдет, скажите: «А теперь сделайте его более захватывающим». Или можете попросить его написать компьютерную программу, которая покажет вам все возможные способы расположения букв в слове.

Но вот в чем загвоздка: ChatGPT точно ничего не знает. Это ИИ, обученный распознавать шаблоны в обширных массивах текста, собранного из Интернета, а затем дополнительно обученный с помощью человека, чтобы создавать более полезные и качественные диалоги. Ответы, которые вы получите, могут показаться правдоподобными и даже авторитетными, но они вполне могут быть совершенно неверными, как предупреждает OpenAI.

Чат-боты уже много лет вызывают интерес у компаний, которые ищут способы помочь клиентам получить то, что им нужно, а также у исследователей искусственного интеллекта, пытающихся пройти тест Тьюринга. Это знаменитая «Игра в имитацию», которую ученый-компьютерщик Алан Тьюринг предложил в 1950 году как способ измерения интеллекта: может ли человек, разговаривая с человеком и с компьютером, сказать, кто есть кто?

Но у чат-ботов есть большой багаж, поскольку компании с ограниченным успехом пытались использовать их вместо людей для обслуживания клиентов. Исследование 1700 американцев, спонсируемое компанией Ujet, чья технология обрабатывает контакты с клиентами, показало, что 72% людей считают чат-боты пустой тратой времени.

ChatGPT быстро стал широко используемым инструментом в Интернете. Аналитик UBS Ллойд Уолмсли подсчитал в феврале, что ChatGPT достиг 100 миллионов пользователей в месяц в предыдущем месяце, выполнив за два месяца то, что TikTok потребовалось около девяти месяцев, а Instagram — два с половиной года. The New York Times со ссылкой на внутренние источники сообщила, что ChatGPT ежедневно используют 30 миллионов человек .

Какие вопросы вы можете задать?

Вы можете спросить что угодно, даже если вы не получите ответа. OpenAI предлагает несколько категорий, таких как объяснение физики, поиск идей для дня рождения и помощь в программировании.

Я попросил его написать стихотворение, и чат написал, хотя не думаю, что литературоведы были бы впечатлены. Затем я попросил его сделать его более захватывающим, и вот: ChatGPT накачал его такими словами, как поле битвы, адреналин, гром и приключение.

Один дурацкий пример показывает, как ChatGPT просто готов поработать в областях, где люди побоялись бы шагу ступить: команда написать «народную песню о написании программы для ржавчины и борьбе с пожизненными ошибками».

Опыт ChatGPT широк, и его способность следить за разговором примечательна. Когда я спросил его о словах, которые рифмуются со словом «фиолетовый», он предложил несколько вариантов, а затем, когда я продолжил: «Как насчет розового?» это не пропустило удара. (Кроме того, есть гораздо больше хороших рифм для «розового».)

Когда я спросил: «Легче добиться свидание будучи чувствительным или жестким?» GPT, в частности, ответил: «Некоторым людям чувствительный человек может показаться более привлекательным, в то время как других может тянуть к жесткому и напористому человеку. Легче получить свидание, чем пытаться соответствовать определенному образцу или персоне».

Вам не нужно далеко ходить, чтобы найти сообщения о том, что бот букально сводит людей с ума. Twitter наводнен пользователями, демонстрирующими мастерство ИИ в создании художественных подсказок и написании кода. Некоторые даже провозгласили «Google мертв», успешно написав эссе для колледжа. Мы поговорим об этом ниже.

Обозреватель CNET Дэвид Ламб составил список некоторых полезных способов, которыми может помочь ChatGPT, но их становится все больше. Один врач, например, рассказывает, что использовал его, чтобы убедить медицинскую страховую компанию оплатить процедуру пациента.

Кто создал ChatGPT и как он работает?

ChatGPT — детище OpenAI, исследовательской компании искусственного интеллекта. Его миссия состоит в том, чтобы разработать «безопасную и полезную» систему общего искусственного интеллекта или помочь в этом другим.

В OpenAI работает 375 сотрудников, написал Альтман в Twitter в январе. «OpenAI удалось объединить самых талантливых исследователей и инженеров в области ИИ», — сказал он также в январском выступлении.

OpenAI произвел фурор ранее, сначала с GPT-3, который может генерировать текст, звучащий так, как будто его написал человек, а затем с DALL-E, который создает то, что сейчас называется «генеративным искусством», на основе текстовых подсказок, которые вы вводите.

GPT-3 и обновление GPT 3.5, на котором основан ChatGPT, являются примерами технологии ИИ, называемой большими языковыми моделями. Их обучают создавать текст на основе того, что они видели, и их можно обучать автоматически — обычно с огромным количеством вычислительной мощности в течение нескольких недель. Например, в процессе обучения можно найти случайный абзац текста, удалить несколько слов, попросить ИИ заполнить пробелы, сравнить результат с оригиналом, а затем вознаградить систему ИИ за максимальное приближение. Многократное повторение процесса может привести к сложной способности генерировать текст.

Всё это не полностью автоматизировано. Люди оценивают первоначальные результаты ChatGPT в процессе, называемом тонкой настройкой. Рецензенты-люди применяют рекомендации, которые затем обобщаются в моделях OpenAI. Кроме того, OpenAI использовала кенийскую фирму, которая платила людям до 3,74 доллара в час за просмотр тысяч фрагментов текста на предмет таких проблем, как насилие, сексуальное насилие и разжигание ненависти, сообщает Time, и эти данные были встроены в новый компонент ИИ, предназначенный для проверки таких материалов из ответов ChatGPT и данных обучения OpenAI.

ChatGPT на самом деле ничего не знает так, как мы с вами. Он просто может принять подсказку, найти соответствующую информацию в океане обучающих данных и преобразовать ее в правдоподобно звучащие абзацы текста. «Мы далеки от самосознания, которого хотим», — сказал ученый-компьютерщик и пионер интернета Винт Серф о технологии больших языковых моделей ChatGPT, которую используют ее конкуренты.

Бесплатен ли ChatGPT?

Да, по крайней мере, на данный момент, но в январе OpenAI добавила платную версию, которая быстрее реагирует и продолжает работать даже в периоды пиковой нагрузки, когда другие получают сообщения о том, что «ChatGPT сейчас перегружен».

Если вы заинтересованы, вы можете записаться в лист ожидания . Альтман из OpenAI предупредил, что, по его оценке, «затраты на вычисления ChatGPT впечатляют» и составляют несколько центов за ответ . OpenAI взимает плату за искусство DALL-E, как только вы превысите базовый уровень бесплатного использования.

Но OpenAI, похоже, нашел некоторых клиентов для своих инструментов GPT. По данным Reuters, потенциальным инвесторам сообщили, что в 2023 году компания ожидает выручку в размере 200 миллионов долларов , а в 2024 году — 1 миллиард долларов.

Каковы ограничения ChatGPT?

Как подчеркивает OpenAI, ChatGPT может давать вам неправильные ответы и создавать «обманчивое впечатление о величии», сказал Альтман. Иногда, что полезно, он специально предупредит вас о своих недостатках. Например, когда я спросил его, кто написал фразу «извивающиеся факты превышают чешуйчатый ум», ChatGPT ответил: «Извините, но я не могу просматривать Интернет или получать доступ к какой-либо внешней информации, кроме той, на которой меня учили…» (Фраза взята из стихотворения Уоллеса Стивенса 1942 года «Знаток хаоса».)

Тем не менее, ChatGPT был готов трактовать смысл этого выражения: «ситуация, в которой имеющиеся факты или информация трудно обработать или понять». Он поместил эту интерпретацию между предупреждениями о том, что трудно судить без дополнительного контекста и что это всего лишь одна из возможных интерпретаций.

Ответы ChatGPT могут выглядеть авторитетно, но быть неверными

«Если вы зададите очень хорошо структурированный вопрос с намерением получить правильный ответ, вы, вероятно, получите правильный ответ», — сказал Майк Краузе, директор по науке о данных в другой компании искусственного интеллекта Beyond Limits . «Это будет хорошо сформулировано и звучать так, как будто оно исходит от какого-то профессора из Гарварда».

Журнал Science запретил тексты ChatGPT в январе. «Программа ИИ не может быть автором. Нарушение этих правил будет представлять собой научный проступок, ничем не отличающийся от измененных изображений или плагиата существующих работ», — сказал главный редактор Х. Холден Торп.

Сайт разработчиков программного обеспечения StackOverflow запретил ChatGPT отвечать на вопросы по программированию . Администраторы предупредили: «Поскольку средний показатель получения правильных ответов от ChatGPT слишком низок, размещение ответов, созданных ChatGPT, существенно вредит сайту и пользователям, которые спрашивают или ищут правильные ответы».

Вы можете сами убедиться, насколько искусным может быть художник BS ChatGPT, задавая один и тот же вопрос несколько раз. Я дважды спросил, не иссякает ли закон Мура, который отслеживает прогресс индустрии компьютерных микросхем, увеличивая количество транзисторов для обработки данных, и получил два разных ответа. Один оптимистично указывал на продолжающийся прогресс, а другой более мрачно указывал на замедление и веру в то, что «закон Мура, возможно, достигает своего предела».

Обе идеи распространены в самой компьютерной индустрии, так что эта двусмысленная позиция, возможно, отражает то, во что верят эксперты-люди.

С другими вопросами, на которые нет четких ответов, ChatGPT часто не удается определиться.

Однако тот факт, что он вообще предлагает ответ, является заметным достижением в вычислительной технике. Компьютеры, как известно, буквально отказываются работать, если вы не будете следовать точным требованиям к синтаксису и интерфейсу. Большие языковые модели раскрывают более удобный для человека стиль взаимодействия, не говоря уже о способности генерировать ответы, которые находятся где-то между копированием и творчеством.

Поможет ли ChatGPT ученикам лучше списывать?

Да, но, как и со многими другими технологическими разработками, это не простая черно-белая ситуация. Десятилетия назад учащиеся могли копировать статьи из энциклопедий и использовать калькуляторы, а совсем недавно они смогли использовать поисковые системы и Википедию. ChatGPT предлагает новые возможности для всего: от помощи в исследованиях до прямого выполнения вашей домашней работы за вас. Многие ответы ChatGPT уже звучат как студенческие эссе, хотя часто с более скучным и педантичным тоном, чем хотелось бы автору.

Программист Google Кеннет Гудман попробовал ChatGPT на нескольких экзаменах . Он набрал 70% на экзамене на получение медицинской лицензии в США, 70% на экзамене для юристов , девять из 15 правильных ответов на другом юридическом тесте, мультигосударственном экзамене на профессиональную ответственность, 78% на экзамене по химии в средней школе штата Нью-Йорк. раздел выбора и занял 40-е место на вступительном экзамене в юридическую школу.

Учитель средней школы Дэниел Херман пришел к выводу, что ChatGPT уже сегодня пишет лучше, чем большинство учеников. Он разрывается между восхищением потенциальной полезностью ChatGPT и опасением его вреда для человеческого обучения: «Этот момент больше похож на изобретение калькулятора, спасающего меня от утомительного деления в длинных числах, или больше на изобретение пианино, лишающего нас того, что можно передать только через человеческие эмоции».

Дастин Йорк , адъюнкт-профессор коммуникаций Университета Мэривилля , надеется, что преподаватели научатся использовать ChatGPT в качестве инструмента и поймут, что это может помочь учащимся мыслить критически.

«Педагоги думали, что Google, Wikipedia и сам Интернет разрушат образование, но этого не произошло», — сказал Йорк. «Что меня больше всего беспокоит, так это преподаватели, которые могут активно препятствовать признанию ИИ, таких как ChatGPT. Это инструмент, а не злодей».

Могут ли учителя обнаружить использование ChatGPT?

Не со 100% уверенностью, но есть технология, позволяющая определить помощь ИИ. Компании, которые продают средства для обнаружения плагиата в средних школах и университетах, теперь расширяют свою деятельность и на обнаружение ИИ.

Одна из них, Coalition Technologies, предлагает на своем веб-сайте детектор контента ИИ. Другая, Copyleaks , выпустила бесплатное расширение для Chrome, предназначенное для обнаружения текста, сгенерированного ChatGPT, с точностью до 99%, по словам генерального директора Алона Ямина. Он считает, что это «бесконечная игра в кошки-мышки», в которой будут пытаться найти новые методы, чтобы помешать работе детекторов.

Copyleaks провел ранний тест студенческих заданий, загруженных в его систему школами. «Около 10% студенческих заданий, отправляемых в нашу систему, содержат как минимум некоторый уровень контента, созданного ИИ», — сказал Ямин.

В феврале OpenAI запустила собственный детектор текста, написанного ИИ. Но одна компания по обнаружению плагиата, CrossPlag, заявила, что обнаружила только два из 10 отрывков, сгенерированных ИИ, в своем тесте. «Хотя инструменты обнаружения будут необходимы, они не безошибочны», — заявили в компании.

Исследователи из Пенсильванского государственного университета изучили проблему плагиата, используя более раннюю языковую модель OpenAI GPT-2. Он не такой сложный, как GPT-3.5, но его обучающие данные доступны для более тщательного изучения. Исследователи обнаружили, что GPT-2 плагиатила информацию не только слово в слово, но и перефразировала отрывки и идеи без ссылки на источники. «Языковые модели допустили все три типа плагиата, и… чем больше набор данных и параметры, используемые для обучения модели, тем чаще происходил плагиат», — заявили в университете.

Может ли ChatGPT писать программное обеспечение?

Да, но с оговорками. ChatGPT может отслеживать шаги, предпринятые людьми, и может генерировать настоящий программный код. «Это сводит меня с ума», — сказал один программист в феврале, показав на Imgur последовательность подсказок, которые он использовал для написания программного обеспечения для автосервиса. «Это заняло бы как минимум час работы, а у меня на это ушло меньше 10 минут».

Вам просто нужно убедиться, что это не неумелые концепции программирования или использование программного обеспечения, которое не работает. Запрет StackOverflow на программное обеспечение, созданное ChatGPT, существует не просто так.

Но в Интернете достаточно программного обеспечения, с которым ChatGPT действительно может работать. Один разработчик, технический директор Cobalt Robotics Эрик Шлунц, написал в Твиттере, что ChatGPT дает достаточно полезных советов, так что за три дня он ни разу не открыл StackOverflow, чтобы получить совет.

Другой, Гейб Рэгланд из сайта искусств искусственного интеллекта Lexica, использовал ChatGPT для написания кода веб-сайта, созданного с помощью инструмента React.

ChatGPT может анализировать регулярные выражения  — мощную, но сложную систему для выявления определенных шаблонов, например даты в наборе текста или имя сервера в адресе веб-сайта. «Это все равно, что иметь под рукой наставника по программированию 24/7», — написал в Твиттере программист Джеймс Блэквелл о способности ChatGPT объяснять регулярные выражения.

Вот один впечатляющий пример его технических возможностей: ChatGPT может эмулировать компьютер Linux , предоставляя правильные ответы на ввод командной строки.

Что запрещено?

ChatGPT предназначен для отсеивания «неуместных» запросов, что соответствует миссии OpenAI «обеспечить, чтобы искусственный интеллект приносил пользу всему человечеству».

Если вы спросите у самого ChatGPT, что запрещено, он ответит вам: любые вопросы, «которые являются дискриминационными, оскорбительными или неуместными. Сюда входят вопросы, которые являются расистскими, сексистскими, гомофобными, трансфобными или иным образом дискриминационными или ненавистническими». Просить его участвовать в незаконной деятельности также нельзя.

Хотя OpenAI не хочет, чтобы ChatGPT использовался в злонамеренных целях, его легко использовать для написания фишинговых писем, чтобы попытаться заставить людей расстаться с конфиденциальной информацией, сообщает моя коллега Бри Фаулер. «Барьер для входа становится все ниже и ниже и ниже для взлома и фишинга. ИИ только увеличит объем», — сказал Рэнди Лариар из компании по кибербезопасности Optiv.

Это лучше, чем поиск Google?

Задавать компьютеру вопрос и получать ответ полезно, и часто ChatGPT помогает.

Google предоставляет вам предлагаемые ответы на вопросы и ссылки на веб-сайты, которые, по его мнению, будут актуальны. Часто ответы ChatGPT намного превосходят то, что предлагает Google, поэтому легко представить, что GPT-3 является конкурентом поисковиков.

Но стоит дважды подумать, прежде чем доверять ChatGPT. Как и при использовании Google и других источников информации, таких как Википедия, рекомендуется проверять информацию из первоисточников, прежде чем полагаться на нее.

Проверка достоверности ответов ChatGPT требует некоторой работы, потому что она просто дает вам необработанный текст без ссылок или цитат. Но это может быть полезно, а в некоторых случаях заставляет задуматься. Вы можете не увидеть что-то похожее на ChatGPT в результатах поиска Google, но Google создал свои собственные большие языковые модели и уже широко использует ИИ в поиске.

Тем не менее, Google стремится рекламировать свои глубокие знания в области искусственного интеллекта, ChatGPT вызвал «красный код» в Google, согласно The New York Times, и снова привлек к активной работе соучредителей Google Ларри Пейджа и Сергея Брина. Microsoft может встроить ChatGPT в свою конкурирующую поисковую систему Bing. Очевидно, что ChatGPT и другие подобные инструменты играют важную роль, когда мы ищем информацию.

Таким образом, ChatGPT, хотя и несовершенен, несомненно, указывает путь к нашему технологическому будущему.