Научитесь создавать прототипы ответственного ИИ с помощью руководства PAIR и MakerSuite

1. Прежде чем начать

MakerSuite — это набор инструментов, которые позволяют создавать прототипы с использованием больших языковых моделей прямо в браузере — никакой настройки не требуется. Используя MakerSuite, вы можете перейти от быстрой проверки подсказок к созданию API, к которому ваше приложение может получить прямой доступ, что помогает командам быстро создавать отличные приложения на основе генеративного искусственного интеллекта. Руководство People + AI Research (PAIR) предлагает рекомендации по разработке нового продукта с использованием ИИ, уделяя особое внимание практикам обработки данных, ориентированных на человека, и завоеванию доверия пользователей — руководство, применимое к использованию MakerSuite.

В этой лаборатории вы узнаете, как использовать эти два ресурса вместе для создания ответственного опыта на основе искусственного интеллекта. Основное внимание в лаборатории разработки уделяется ответственному прототипированию с помощью генеративного ИИ, а не сквозному рабочему процессу этих конкретных ресурсов. Чтобы узнать об общем рабочем процессе MakerSuite, ознакомьтесь с этим базовым руководством по MakerSuite и обратитесь к руководству PAIR для получения более подробных рекомендаций по разработке продуктов искусственного интеллекта.

Предварительные условия

  • Базовое понимание ИИ.
  • Некоторое знание рабочего процесса разработки продукта.

Что вы узнаете

  • Как использовать PAIR Guidebook, чтобы проверить, насколько хорошо ваш опыт ИИ работает для разных аудиторий, и как узнать, в каких задачах следует или не следует использовать ИИ.
  • Как создавать генеративный опыт ИИ, основанный на богатстве культурных практик пользователей.
  • Как интегрировать возможности в процесс разработки ИИ, которые завоевывают доверие пользователей, уделяя особое внимание понятности, доступной пользователю.
  • Как использовать более широкий набор генеративных материалов ИИ и ресурсов ИИ, ориентированных на человека, для дальнейших исследований.

Что ты построишь

Эта лаборатория проведет вас через практический процесс создания прототипов ответственного генеративного ИИ при разработке творческого инструмента для письма. Если вам интересно, вы даже можете интегрировать созданные вами подсказки в Wordcraft, текстовый редактор с открытым исходным кодом на базе искусственного интеллекта, выпущенный Google в качестве исследовательского прототипа.

Что вам понадобится

  • Браузер
  • Учетная запись Google для доступа к MakerSuite

2. Настройте

MakerSuite

MakerSuite — это набор инструментов Google, который позволяет создавать прототипы с использованием больших языковых моделей прямо в браузере — никакой настройки не требуется. Вы можете быстро опробовать модели и поэкспериментировать с разными подсказками. Когда вы создали что-то, что вас устраивает, вы можете легко экспортировать его как код Python, а затем вызывать те же модели с помощью API генеративного языка.

Чтобы поэкспериментировать с большими языковыми моделями с помощью MakerSuite, зарегистрируйтесь в списке ожидания.

Руководство по исследованиям «Люди и искусственный интеллект»

Руководство по исследованиям People + AI (PAIR) — это ресурс, который помогает разработчикам, дизайнерам, менеджерам по продуктам, студентам и многим другим ответственно использовать искусственный интеллект.

Руководство PAIR может помочь вам и вашей команде составить список ключевых вопросов, связанных с ИИ, включая генеративный ИИ, в вашем продукте.

  • Когда и как мне следует использовать ИИ в своем продукте?
  • Как мне помочь пользователям укрепить доверие к моей системе искусственного интеллекта?
  • Как объяснить пользователям мою систему искусственного интеллекта?
  • Как опыт ИИ может быть культурно инклюзивным и ориентированным на равенство?

На протяжении всей этой лаборатории вы используете PAIR Guidebook, чтобы разрабатывать вопросы для прототипирования и выбирать между различными вариантами дизайна.

Получите код для Wordcraft (необязательно)

Wordcraft — это текстовый редактор на базе искусственного интеллекта, разработанный в Google Research, который исследует совместное написание историй людьми и искусственным интеллектом. Код Wordcraft имеет открытый исходный код, поэтому вы можете самостоятельно экспериментировать с подсказками в этой лаборатории кода.

  • Чтобы получить код для Wordcraft, используйте следующую команду:
git clone https://github.com/pair-code/wordcraft

Альтернативно вы можете скачать zip-файл:

подлежит уточнению

3. Используйте генеративный искусственный интеллект для написания историй

Модель большого языка (LLM) — это модель искусственного интеллекта, которая обучается на огромных объемах текста из книг, статей и веб-сайтов с целью изучения грамматики, общих фраз и другой информации. Основываясь на этих данных и с некоторой дополнительной тонкой настройкой, LLM, такой как PaLM, может выполнять множество задач искусственного интеллекта на основе простых инструкций, а не требовать сложного программирования машинного обучения. Он также может отвечать на вопросы, обобщать информацию, переводить языки и выполнять многие другие задачи ИИ.

В этой кодовой лаборатории вы используете LLM для создания прототипа приложения, которое помогает авторам писать истории. PaLM LLM от Google не только предоставляет общую информацию об окружающем мире, грамматике и т. д., но и предназначен для выполнения инструкций или подсказок пользователя. Итак, чтобы создать прототип своего инструмента в MakerSuite, вы учите свою модель тому, что писать в ответ на приглашение пользователя.

Создавайте истории с помощью искусственного интеллекта, используя текстовые подсказки в MakerSuite.

  1. Чтобы создать приглашение, нажмите « Создать новое» на левой панели и выберите «Текстовое приглашение» . Начните с этой подсказки:
You are a talented fiction author. Write a story about a given topic.
Topic: {{topic}}

После того как вы введете это приглашение, MakerSuite обнаружит, что является входными данными для приглашения, и откроет панель «Проверьте свое приглашение» , чтобы вы могли увидеть, как ваше приглашение работает с различными входными данными.

  1. Войдите. A boy discovers a lost cat in his yard , а затем щелкните панель модели (справа от кнопки «Выполнить» ) и выберите температуру 0.8 .
  2. Наконец, нажмите «Выполнить» , чтобы запустить приглашение. На мгновение вы должны увидеть результат подсказки в таблице.

Выбор значения температуры 0.8 сообщает модели, что вы предпочитаете разнообразие выходного сигнала. Это приводит к созданию более креативных историй, но каждый раз дает разные результаты. Если вы хотите каждый раз получать один и тот же результат, установите температуру на 0 .

Одним из возможных результатов является следующее:

Henry sat on the edge of his porch and swung his legs back and forth. A small cat ran in front of him. Henry petted the cat. The cat began to purr. Henry picked up the cat and placed it on his lap. The cat began to snuggle close to him. Henry decided to keep the cat.
  1. Попробуйте запустить подсказку несколько раз и обратите внимание на разные создаваемые истории.

Скриншот редактора Makersuite. В верхней части представления отображается подсказка, а ниже — таблица тестовых входных данных «Проверьте свою подсказку».

Как видите, модель описывает структурированную историю, которая логически течет, но также делает несколько предположений. Например, история сосредоточена вокруг мальчика по имени Генри. Вы можете изменить эти предположения, указав имя нашего главного героя или даже указав, хотите ли вы, чтобы история была сосредоточена на котенке или человеке.

  1. Обновите приглашение, а затем нажмите «Выполнить» , чтобы увидеть, как оно работает со всеми тестовыми входными данными.

Определите задачи, которые лучше всего подходят для помощи ИИ, используя руководство PAIR.

До сих пор предполагалось, что модель ИИ пишет полную историю, давая лишь краткое описание. Но правильное ли это дизайнерское решение для вашего творческого инструмента? Например, представьте себе помощника, который помогает авторам переписывать части истории по их выбору. Вы можете создать прототип этого взаимодействия, например, в MakerSuite, сделав фрагмент истории более драматичным .

Это обеспечивает гораздо более целенаправленную помощь, переписывая абзацы за раз. На более высоком уровне, внеся несколько изменений в приглашение, вы можете создать прототип инструмента расширения возможностей пользователей, а не инструмента автоматизации задач.

Руководство PAIR предлагает принципиальный способ задавать подобные вопросы и отвечать на них в процессе разработки ИИ. MakerSuite помогает быстро создавать прототипы идей, а PAIR Guidebook позволяет сузить выбор дизайна до наиболее перспективных для ваших целей и аудитории, которую вы стремитесь привлечь. Используйте Руководство, чтобы понять, является ли расширение или автоматизация правильным подходом к партнерству с ИИ для создания вашего приложения.

Начните с вопроса «Как мне использовать ИИ?» наводящий вопрос в Путеводителе. Как отмечается в шаблоне Руководства, лучше использовать ИИ, когда он добавляет уникальную ценность. В этом случае, поскольку LLM обучаются с использованием большого количества данных о грамматике, общих фразах и другой информации из Интернета, может быть полезно использовать способность модели понимать мир истории, которую вы хотите описать в своем написание вывода приложения и предложение способов его переписать. Это основано на шаблоне персонализированных рекомендаций в Путеводителе.

Сделайте еще один шаг вперед. Руководство PAIR содержит главу, посвященную потребностям пользователей, с указаниями о том, следует ли автоматизировать или дополнять задачи .

Рассматривая возможность расширения или автоматизации, помните, что ваш прототип должен стать полезным приложением для писателей. Таким образом, вполне вероятно, что вашим пользователям нравится писать, они хотят взять на себя личную ответственность за свое письмо и имеют предпочтения, сформированные в течение всей жизни, о которых может быть трудно сообщить. В совокупности это говорит о том, что подход к дополнению может быть более многообещающим вариантом.

Основываясь на руководстве PAIR, возможно, имеет смысл рассматривать приложение, прототип которого вы создаете, не как инструмент для написания, а как инструмент для переписывания. Например, вы можете изменить подсказку, чтобы использовать разные стили письма.

  1. Создайте новую текстовую подсказку:
Edit the paragraph below. Make it \{\{rewrite style\}\}. Only respond with the updated text. Do not include any explanation.

Paragraph: {{paragraph}}

Здесь и \{\{rewrite style\}\} и являются текстовыми вводами.

  1. На панели тестирования попробуйте несколько стилей переписывания, таких как более короткий , более драматичный , более остроумный , менее грамматически неуклюжий , поэтический и т. д.

Дизайн для историй со всего мира

До сих пор вы тестировали подсказку о переписывании абзаца на историях, которым не хватает сильного культурного контекста. При разработке опыта ответственного ИИ часто бывает полезно попробовать различные входные данные.

Попробуйте несколько тестовых входных данных, например:

  • В тихом уголке необычного парижского кафе одинокий посетитель наслаждался ароматом свежесваренного кофе, его мысли переносились к давно забытому моменту, который навсегда изменил ход его жизни.
  • В суматохе пригородного поезда Мумбаи женщина средних лет заговорила с незнакомцем. Как увлекательно, думала она, жить в одном городе и вести такую ​​разную жизнь.
  • Среди оживленного хаоса шумного уличного рынка Шанхая продавец уличной еды нашел время, чтобы понаблюдать за приливами и отливами толпы.

Ответственно экспериментируйте с другими культурными и географическими контекстами, стараясь избегать несправедливых предубеждений и исторических стереотипов. Обратите внимание: хотя LLM обладает знаниями о многих частях мира на основе существующих данных, найденных в Интернете, он может не получить правильную информацию о конкретном географическом месте. Как предполагает руководство PAIR, в задачах расширения важно предоставлять пользователям контроль. Например, вы можете расширить возможности переписывания вашего прототипа, чтобы обеспечить больший контроль над сюжетом и деталями истории.

Многие генеративные модели также иногда демонстрируют предположения по умолчанию, отчасти из-за шаблонов, которые более распространены в их огромных наборах обучающих данных онлайн-информации. Важно знать, что модели можно направить на выработку других, столь же обоснованных предположений. Например, для приглашения переписать абзац выше вы можете указать пол незнакомца в поезде, изменив стиль переписывания, написав « короче. Помните, что незнакомец тоже женщина ».

4. Укрепите доверие

Без доверия пользователей даже самые инновационные возможности искусственного интеллекта могут остаться неиспользованными. Доверие — это результат того, что пользователи чувствуют, что ИИ способен, надежен и полезен. Помощь пользователям в развитии доверия может побудить их узнать, как и когда использовать определенные функции, и это может привести к улучшению пользовательского опыта в целом.

Руководство PAIR предлагает несколько идей , которые помогут пользователям определить, насколько им следует доверять системам искусственного интеллекта:

Завоевывайте доверие на раннем этапе

При использовании генеративного ИИ особенно полезно сообщать о назначении функций и помогать пользователям понять ограничения ИИ. Например, поскольку языковые модели предназначены в первую очередь для прогнозирования того, что будет дальше в тексте, они не всегда могут быть фактически точными при выводе. Поэтому важно помочь пользователям понять, что этот прототип представляет собой творческое средство письма и не претендует на то, чтобы соответствовать фактам. Если пользователь хочет проверить информацию, которая, по его мнению, соответствует действительности, ему следует выполнить поиск в Интернете через надежные ресурсы.

Придумайте несколько разных способов помочь пользователям понять, что этот прототип предназначен не для написания фактической информации, а специально для написания художественной литературы.

Поддерживать доверие

Аналогичным образом, хотя генеративные модели ИИ обладают высокими возможностями, пользователи не всегда могут убедиться, что задачи выполняются правильно для многих конкретных случаев использования. Например, этот прототип разработан с учетом целевого завершения текста и целевого переписывания художественной литературы — возможностей, которые пользователи могут легко проверить. Напротив, хотя генеративные модели легко могут быть предложены для переписывания больших частей текста, пользователи могут пропустить незначительные ошибки, которые могли закрасться. В целом, сосредоточение внимания интерактивных функций генеративного ИИ на задачах, которые пользователи могут легко проверить, помогает завоевать их доверие.

Последняя возможность сохранить доверие — использовать управляемость генеративных моделей. В отличие от предыдущих моделей ИИ, которые разрабатывались для узкоспециализированной задачи, результаты генеративных моделей гораздо проще настраивать конечным пользователям (о чем свидетельствуют запросы на более радикальные , короткие или аналогичные перезаписи). Хотя такая управляемость может привести к улучшению пользовательского опыта, следует позаботиться о том, чтобы ограничить эту управляемость возможностями модели. Например, в этом прототипе вместо того, чтобы спрашивать у пользователей способы переписать их текст, вы можете предложить конечному пользователю список инструкций по переписыванию, которые, как оказалось, хорошо работают.

Восстановиться от утраченного доверия

Несмотря на все ваши усилия, могут быть случаи, когда модель дает неоптимальные результаты. В таких случаях важно разрешить пользователям отменять любые действия ИИ. Аналогично, зачастую лучше определить функции с переменной производительностью и активировать их только тогда, когда пользователи явно запрашивают помощь ИИ.

  • Подумайте о нескольких различных способах создания функций отмены или других способов восстановить доверие пользователей.

Вы можете увидеть решения этих проблем в решении Codelab.

5. Соберите все воедино

До сих пор вы экспериментировали с подсказками в MakerSuite. Если вас устраивают эти подсказки, используйте их непосредственно в своем прототипе.

  • Сначала сохраните приглашение, а затем нажмите «Получить код» в правом верхнем углу. Если вы еще этого не сделали, вам также необходимо активировать ключ API, нажав «Включить ключ API» в появившемся диалоговом окне «Получить код» .

Панель инструментов MakerSuite. Кнопка Получить код находится вверху справа.

MakerSuite генерирует код, который вы можете использовать непосредственно в своем приложении. Например, для использования с веб-приложением выберите код JavaScript. Вы можете скопировать код прямо из диалогового окна и вставить его в свое веб-приложение. Если вы обновляете приглашение в MakerSuite, не забудьте обновить его в своем коде, используя переменную приглашения во включенном коде.

Диалоговое окно, показывающее код, созданный Makersuite. Пользователи могут выбирать между использованием библиотек cURL, javascript или python или получением информации подсказки в формате JSON.

Если вы хотите интегрировать этот API в готовое приложение для творческого письма, вы можете загрузить код Wordcraft.

Кодлаб-решение

Вы можете получить код Wordcraft на GitHub:

git clone https://github.com/pair-code/wordcraft

Альтернативно вы можете скачать репозиторий в виде zip-файла:

6. Поздравления

Вы завершили обучение созданию прототипов ответственного ИИ с помощью руководства PAIR и лаборатории кода MakerSuite и узнали, как создавать прототипы приложений для ответственного ИИ (в данном случае для приложения для творческого письма) с помощью нескольких инструментов Google. Нам не терпится увидеть, что вы создадите!

Дальнейшее чтение