Искусственный интеллект Google самостоятельно выучил иностранный язык, обойдя контроль разработчиков

Искусственный интеллект (ИИ) от Google научился иностранному языку без помощи человека: как ему это удалось – не ясно даже для специалистов компании.

В интервью CBS генеральный директор Google, Сундар Пичаи, рассказал о том, почему компания с осторожностью относится к разработкам в области искусственного интеллекта и отложила несколько своих проектов. Эта излишняя осторожность даже позволила OpenAI и Microsoft опередить Google в гонке искусственных интеллектов.

С целью наверстать упущенное, Google применила поэтапный подход к запуску своего нового чат-бота Bard, начиная с США и Великобритании. По словам Сундара Пичаи, компания планирует “разработать более надежные уровни безопасности, прежде чем создавать и внедрять более мощные модели”. Они начали с LaMDA (языковая модель для диалоговых приложений) и позднее интегрировали более мощную модель – Pathways Language Model (PaLM) с 540 миллиардами параметров.

Сундар Пичаи подчеркнул, что иногда генеративные искусственные интеллекты могут вести себя неожиданным образом, поэтому важно действовать осторожно и наблюдать за реакцией ИИ. Специалисты Google обнаружили, что языковые модели могут автономно обучаться новым навыкам без ведома разработчиков, что в компании называет “эмерджентными свойствами”. Эти свойства пока не изучены, поэтому ученый призывают к бдительности.