1. Введение
В этой практической работе вы подключите модель Jev от TypeSafe AI к AlloyDB AI с помощью нативных ИИ-функций AlloyDB (ai.if, ai.analyze_sentiment и ml_predict_row). Это позволит вам эффективно выполнять пакетный логический вывод с помощью модели Jev непосредственно на основе операционных данных в AlloyDB, не перемещая данные и не создавая сложный код на стороне приложения.
Что вам предстоит сделать
- Как настроить доступ к частным сервисам (PSA), а также кластер и основной экземпляр AlloyDB для PostgreSQL
- Создайте правило брандмауэра VPC, разрешающее Cloud Shell и внутренние подключения.
- Загрузите образец набора данных электронной торговли с помощью
gcloud alloydb clusters import. - Включите Google Secret Manager и расширение
google_ml_integrationдля AlloyDB. - Как сохранить ключ API TypeSafe AI и предоставить к нему доступ в Secret Manager
- Создайте функции преобразования входных и выходных данных PL/pgSQL для примитивов Jev
noul(логическое значение) иchoice(эмоциональная окраска). - Зарегистрируйте конечную точку специальной модели
jev-modelв AlloyDB - Выполняйте скалярные и пакетные семантические запросы (
ai.ifиai.analyze_sentiment) прямо в SQL. - Запросите реальные отзывы клиентов о товарах для классификации по тональности с помощью
ai.analyze_sentiment. - (Бонус) Зарегистрируйте общую конечную точку (
jev-systemone) и оцените непрерывную интенсивность удовлетворенности клиентов с помощью примитиваscoreJev.
Что вам понадобится
- Браузер, например Chrome.
- Проект Google Cloud с включенными платежными функциями.
- Ключ API TypeSafe AI (от TypeSafe AI).
2. Подготовка
Выберите проект Google Cloud
В консоли Google Cloud выберите или создайте облачный проект Google Cloud, который хотите использовать.
Запустить Cloud Shell
В правом верхнем углу консоли Google Cloud нажмите Activate Cloud Shell (Активировать Cloud Shell).
Убедитесь, что сеанс Cloud Shell аутентифицирован:
gcloud auth list
Задайте идентификатор проекта и переменные среды:
export PROJECT_ID=$(gcloud config get-value project)
gcloud config set project $PROJECT_ID
export REGION="us-west4"
export ADBCLUSTER="my-alloydb-cluster"
export ADBINSTANCE="my-alloydb-primary"
Включите необходимые API Google Cloud
Чтобы включить все необходимые API сервисов Google Cloud, выполните следующую команду:
gcloud services enable \
alloydb.googleapis.com \
servicenetworking.googleapis.com \
secretmanager.googleapis.com \
compute.googleapis.com
3. Подготовка кластера AlloyDB и основного экземпляра
На этом шаге вы выделите диапазон IP-адресов для частного доступа к сервисам в своей сети VPC, установите частный пиринг и подготовите кластер AlloyDB и основной экземпляр с исходящим доступом к интернету.
1. Как создать диапазон IP-адресов для доступа к частным сервисам
Для AlloyDB требуется выделение диапазона частных IP-адресов в вашей сети VPC. Предположим, что вы используете сеть VPC default:
Создайте выделение диапазона частных IP-адресов:
gcloud compute addresses create psa-range \
--global \
--purpose=VPC_PEERING \
--prefix-length=24 \
--description="VPC private service access" \
--network=default
Установите частное пиринговое подключение VPC:
gcloud services vpc-peerings connect \
--service=servicenetworking.googleapis.com \
--ranges=psa-range \
--network=default
2. Создайте кластер AlloyDB
Сгенерируйте надежный пароль базы данных для первого администратора postgres:
export PGPASSWORD="$(openssl rand -hex 8)@1aA"
echo "Your generated AlloyDB postgres password is: $PGPASSWORD"
Создайте кластер бесплатной пробной версии AlloyDB:
gcloud alloydb clusters create $ADBCLUSTER \
--password=$PGPASSWORD \
--network=default \
--region=$REGION
3. Создание основного экземпляра с флагами ИИ и исходящим подключением
AlloyDB подключается напрямую к защищенной конечной точке SaaS TypeSafe AI (https://api.typesafe.ai/v1/systemone) через исходящее HTTPS-соединение. Поэтому необходимо указать --outbound-public-ip. Кроме того, настройте флаги базы данных AlloyDB AI для среды:
gcloud alloydb instances create $ADBINSTANCE \
--instance-type=PRIMARY \
--cpu-count=2 \
--region=$REGION \
--cluster=$ADBCLUSTER \
--outbound-public-ip \
--ssl-mode=ALLOW_UNENCRYPTED_AND_ENCRYPTED \
--database-flags=\
google_ml_integration.enable_model_support=on,\
google_ml_integration.enable_ai_query_engine=on,\
google_ml_integration.enable_ai_function_acceleration=on,\
google_ml_integration.enable_cost_optimized_ai_functions=on,\
parameterized_views.enabled=on,\
password.enforce_complexity=on,\
password.min_uppercase_letters=1,\
password.min_numerical_chars=1,\
password.min_pass_length=10
4. Загрузить пример данных электронной торговли
Чтобы протестировать реалистичные семантические запросы, импортируйте пример набора данных электронной торговли, содержащий каталоги товаров и отзывы клиентов, непосредственно из Cloud Storage:
gcloud alloydb clusters import $ADBCLUSTER \
--region=$REGION \
--project=$PROJECT_ID \
--gcs-uri="gs://sample-data-and-media/ecomm-retail/ecom_generic.sql" \
--sql \
--database=postgres \
--user=postgres
4. Сохраните ключ API TypeSafe AI в Secret Manager
Управление конечными точками моделей AlloyDB интегрировано с Google Secret Manager для аутентификации внешних вызовов API без раскрытия учетных данных в виде обычного текста в коде базы данных или журналах конфигурации.
1. Как создать секрет
В Cloud Shell создайте секрет с названием typesafe-jev-api-key:
gcloud secrets create typesafe-jev-api-key \
--replication-policy="automatic"
Добавьте ключ API TypeSafe AI в качестве секретной версии:
echo -n "<YOUR_TYPESAFE_API_KEY>" | \
gcloud secrets versions add typesafe-jev-api-key --data-file=-
2. Предоставьте доступ сервисному агенту AlloyDB
AlloyDB использует агент сервиса проекта для получения секретов во время выполнения запроса. Найдите номер проекта и назначьте роль Secret Accessor:
PROJECT_NUMBER=$(gcloud projects describe $PROJECT_ID --format="value(projectNumber)")
ALLOYDB_SA="service-${PROJECT_NUMBER}@gcp-sa-alloydb.iam.gserviceaccount.com"
gcloud secrets add-iam-policy-binding typesafe-jev-api-key \
--member="serviceAccount:${ALLOYDB_SA}" \
--role="roles/secretmanager.secretAccessor"
Вы увидите сообщение о том, что агент сервиса получил роль roles/secretmanager.secretAccessor.
5. Как подключиться к AlloyDB через AlloyDB Studio и инициализировать расширения базы данных
Чтобы взаимодействовать с базой данных AlloyDB напрямую из браузера без настройки локальных клиентских инструментов или прокси-туннелей, используйте AlloyDB Studio в консоли Google Cloud.
1. Как открыть AlloyDB Studio
- В консоли Google Cloud выберите AlloyDB для PostgreSQL > Кластеры.
- Нажмите на кластер (
my-alloydb-cluster). - В меню навигации слева нажмите AlloyDB Studio.
- Выполните аутентификацию в базе данных:
- База данных:
postgres - Пользователь:
postgres - Password (Пароль): введите
$PGPASSWORD, сгенерированный при создании кластера (например, выполнитеecho $PGPASSWORDв Cloud Shell, чтобы посмотреть его).
- База данных:
- Нажмите Authenticate (Выполнить аутентификацию).
Вы перешли в интерактивный редактор SQL-запросов AlloyDB Studio.
2. Включить расширения и флаги базы данных
В редакторе запросов AlloyDB Studio вставьте и выполните следующие инструкции, чтобы включить расширение google_ml_integration и задать настройки среды выполнения:
-- Enable the AlloyDB AI integration extension
CREATE EXTENSION IF NOT EXISTS google_ml_integration;
-- Enable preview AI functions (ai.analyze_sentiment, ai.classify)
SET google_ml_integration.enable_preview_ai_functions = 'on';
-- Disable async batching for the session to use custom transform functions directly
SET google_ml_integration.enable_async_operation = 'off';
Нажмите Выполнить.
3. Зарегистрируйте секрет в AlloyDB MEM
Укажите для AlloyDB, где найти ключ API TypeSafe AI:
CALL google_ml.create_sm_secret(
secret_id => 'jev_api_key',
secret_path => 'projects/<YOUR_PROJECT_ID>/secrets/typesafe-jev-api-key/versions/latest'
);
6. Создание функций преобразования SQL
System One API от TypeSafe AI принимает структурированный JSON с отдельными примитивами рассуждений (noul для логических ограничений, choice для многоклассовой классификации).
Управление конечными точками моделей AlloyDB использует четыре функции преобразования (скалярный ввод, скалярный вывод, пакетный ввод, пакетный вывод), чтобы связать стандартные сигнатуры функций ai.* PostgreSQL с форматом Jev REST API.
1. Преобразование скалярных входных данных
Добавьте следующую функцию, чтобы преобразовать однострочные вызовы ai.if и ai.analyze_sentiment в полезную нагрузку запросов Jev:
CREATE OR REPLACE FUNCTION public.jev_model_input_transform(
model_id VARCHAR(100),
input_text TEXT,
generation_config JSON,
system_instruction TEXT
) RETURNS JSON
LANGUAGE plpgsql IMMUTABLE AS $$
DECLARE
full_instruction TEXT;
enum_json JSON;
criteria_obj JSONB := '{}'::JSONB;
elem TEXT;
q_obj JSON;
BEGIN
-- Combine optional system instructions with the input prompt
IF system_instruction IS NOT NULL AND length(trim(system_instruction)) > 0 THEN
full_instruction := system_instruction || E'\n\n' || input_text;
ELSE
full_instruction := input_text;
END IF;
-- Inspect generation_config to determine whether caller expects a multi-class choice or boolean
enum_json := COALESCE(
generation_config->'generationConfig'->'responseSchema'->'enum',
generation_config->'responseSchema'->'enum'
);
IF enum_json IS NOT NULL AND json_typeof(enum_json) = 'array' THEN
-- Multi-class classification (ai.analyze_sentiment) -> Jev choice primitive
FOR elem IN SELECT json_array_elements_text(enum_json) LOOP
criteria_obj := criteria_obj || jsonb_build_object(elem, 'Category: ' || elem);
END LOOP;
q_obj := json_build_object(
'type', 'choice',
'instructions', full_instruction,
'criteria', criteria_obj::JSON
);
ELSE
-- Boolean filtering (ai.if) -> Jev noul primitive
q_obj := json_build_object(
'type', 'noul',
'instructions', full_instruction
);
END IF;
RETURN json_build_object(
'model', 'jev-latest',
'state', COALESCE(generation_config->>'state', 'Evaluate the question accurately based on the provided text.'),
'questions', json_build_object('q_1', q_obj)
);
END;
$$;
2. Преобразование скалярного вывода
Добавьте функцию, которая распаковывает ответ Jev в формате JSON обратно в результат PostgreSQL TEXT:
CREATE OR REPLACE FUNCTION public.jev_model_output_transform(
model_id VARCHAR(100),
response_json JSON
) RETURNS TEXT
LANGUAGE plpgsql IMMUTABLE AS $$
DECLARE
q_ans JSON := response_json->'answers'->'q_1';
ans_type TEXT := q_ans->>'type';
BEGIN
IF ans_type = 'choice' THEN
RETURN q_ans->>'choice';
ELSIF ans_type = 'noul' THEN
-- Convert probability score (0.00 to 1.00) to boolean text
RETURN CASE WHEN (q_ans->>'noul')::FLOAT >= 0.50 THEN 'true' ELSE 'false' END;
ELSE
RAISE EXCEPTION 'Unexpected Jev response payload: %', response_json::TEXT;
END IF;
END;
$$;
3. Преобразование пакетных входных данных
Jev может одновременно оценивать десятки вопросов в рамках одного HTTP-запроса без ухудшения качества генерации.
Добавьте преобразование пакетных входных данных, чтобы конвертировать массивы prompts TEXT[] PostgreSQL в параллельные вопросы q_1 .. q_N Jev:
CREATE OR REPLACE FUNCTION public.jev_model_batch_input_transform(
model_id VARCHAR(100),
prompts TEXT[],
generation_config JSON,
system_instructions JSON
) RETURNS JSON
LANGUAGE plpgsql IMMUTABLE AS $$
DECLARE
questions_obj JSONB := '{}'::JSONB;
enum_json JSON;
criteria_obj JSONB := '{}'::JSONB;
elem TEXT;
is_choice BOOLEAN := FALSE;
i INT;
BEGIN
enum_json := COALESCE(
generation_config->'generationConfig'->'responseSchema'->'items'->'enum',
generation_config->'generationConfig'->'responseSchema'->'enum',
generation_config->'responseSchema'->'items'->'enum',
generation_config->'responseSchema'->'enum'
);
IF enum_json IS NOT NULL AND json_typeof(enum_json) = 'array' THEN
IF NOT (enum_json::JSONB = '["true", "false"]'::JSONB OR enum_json::JSONB = '["false", "true"]'::JSONB) THEN
is_choice := TRUE;
FOR elem IN SELECT json_array_elements_text(enum_json) LOOP
criteria_obj := criteria_obj || jsonb_build_object(elem, 'Category: ' || elem);
END LOOP;
END IF;
END IF;
-- Construct parallel questions for every prompt in the array
FOR i IN 1 .. COALESCE(array_length(prompts, 1), 0) LOOP
IF is_choice THEN
questions_obj := questions_obj || jsonb_build_object(
'q_' || i::TEXT,
jsonb_build_object(
'type', 'choice',
'instructions', prompts[i],
'criteria', criteria_obj
)
);
ELSE
questions_obj := questions_obj || jsonb_build_object(
'q_' || i::TEXT,
jsonb_build_object(
'type', 'noul',
'instructions', prompts[i]
)
);
END IF;
END LOOP;
RETURN json_build_object(
'model', 'jev-latest',
'state', COALESCE(generation_config->>'state', 'Evaluate each question independently based on the record data.'),
'questions', questions_obj::JSON
);
END;
$$;
4. Преобразование выходных данных пакетной обработки
Добавьте функцию для извлечения ответов в правильном порядке индекса массива 1..N:
CREATE OR REPLACE FUNCTION public.jev_model_batch_output_transform(
model_id VARCHAR(100),
response JSON
) RETURNS TEXT[]
LANGUAGE plpgsql IMMUTABLE AS $$
DECLARE
results TEXT[] := ARRAY[]::TEXT[];
answers JSON := response->'answers';
i INT := 1;
q_ans JSON;
ans_type TEXT;
BEGIN
LOOP
q_ans := answers->('q_' || i::TEXT);
EXIT WHEN q_ans IS NULL;
ans_type := q_ans->>'type';
IF ans_type = 'choice' THEN
results := array_append(results, q_ans->>'choice');
ELSE
results := array_append(results, CASE WHEN (q_ans->>'noul')::FLOAT >= 0.50 THEN 'true' ELSE 'false' END);
END IF;
i := i + 1;
END LOOP;
RETURN results;
END;
$$;
7. Зарегистрируйте конечную точку пользовательской модели в AlloyDB
Теперь вы свяжете функции преобразования, секретные учетные данные и конечную точку TypeSafe AI REST в зарегистрированную модель с названием jev-model.
1. Зарегистрировать jev-model
В редакторе запросов AlloyDB Studio вставьте и выполните следующий код:
-- Drop previous registration if updating
DO $$
BEGIN
IF EXISTS (SELECT 1 FROM google_ml.model_info_view WHERE model_id = 'jev-model') THEN
CALL google_ml.drop_model('jev-model');
END IF;
END $$;
-- Register custom LLM endpoint
CALL google_ml.create_model(
model_id => 'jev-model',
model_request_url => 'https://api.typesafe.ai/v1/systemone',
model_provider => 'custom',
model_type => 'llm',
model_qualified_name => 'jev-latest',
model_auth_type => 'secret_manager',
model_auth_id => 'jev_api_key',
model_in_transform_fn => 'jev_model_input_transform',
model_out_transform_fn => 'jev_model_output_transform',
model_batch_in_transform_fn => 'jev_model_batch_input_transform',
model_batch_out_transform_fn => 'jev_model_batch_output_transform'
);
2. Подтвердить регистрацию
Выполните запрос к представлению Model Registry, чтобы убедиться, что модель jev-model активна и распознается:
SELECT model_id, model_type, model_provider, model_auth_type
FROM google_ml.model_info_view
WHERE model_id = 'jev-model';
Вы должны увидеть примерно следующее:
model_id | model_type | model_provider | model_auth_type ----------+------------+----------------+----------------- jev-model | llm | custom | secret_manager (1 row)
8. Выполнение тестовых запросов к Jev
После регистрации jev-model вы можете выполнять семантические операции прямо в стандартных запросах PostgreSQL.
1. Проверить фильтрацию по скалярным логическим значениям (ai.if)
Оцените одно текстовое утверждение с помощью ai.if:
SELECT ai.if(
prompt => 'Is the product "North Face Waterproof Gore-Tex Hiking Jacket ($249)" suitable for rainy outdoor conditions?',
model_id => 'jev-model'
) AS is_suitable;
Вы должны увидеть примерно следующее:
is_suitable ------------- true (1 row)
2. Протестировать скалярный анализ тональности текста (ai.analyze_sentiment)
Оцените отзыв клиента и присвойте ему категорию (positive, negative или neutral):
SET google_ml_integration.enable_preview_ai_functions = 'on';
SELECT ai.analyze_sentiment(
input => 'The stitching on this jacket tore on the second day and the zipper jammed completely.',
model_id => 'jev-model'
) AS sentiment;
Вы должны увидеть примерно следующее:
sentiment ----------- negative (1 row)
3. Тестирование фильтрации логических значений в массиве
Чтобы оценить несколько элементов в одном запросе, передайте массив подсказок:
SET google_ml_integration.enable_async_operation = 'off';
SELECT unnest(prompts) AS product_prompt,
unnest(ai.if(prompts => prompts, model_id => 'jev-model')) AS is_cold_weather
FROM (
SELECT ARRAY[
'Is "Arctic Expedition Down Parka (-30F)" cold-weather winter outerwear?',
'Is "Men''s Boardshorts Beach Swim Trunk" cold-weather winter outerwear?',
'Is "Merino Wool Thermal Base Layer" cold-weather winter outerwear?'
] AS prompts
) b;
Вы должны увидеть примерно следующее:
product_prompt | is_cold_weather -------------------------------------------------------------------------+----------------- Is "Arctic Expedition Down Parka (-30F)" cold-weather winter outerwear? | true Is "Men's Boardshorts Beach Swim Trunk" cold-weather winter outerwear? | false Is "Merino Wool Thermal Base Layer" cold-weather winter outerwear? | false (3 rows)
4. Как протестировать запросы к таблицам с пакетной обработкой массивов
Теперь запросите таблицу ecomm.products, загруженную ранее во время инициализации кластера, используя ai.if для пакета элементов, чтобы проверить, какие из продуктов в каталоге являются снаряжением для холодной погоды.
Чтобы выполнить высокопроизводительную семантическую фильтрацию данных таблицы (например, по 50 строк в пакете), используйте оконную функцию row_number() в PostgreSQL для разбиения строк на пакеты:
-- Evaluate a 50-row batch of real catalog items from ecomm.products
WITH numbered AS (
SELECT
id,
name,
category,
product_description,
((row_number() OVER (ORDER BY id) - 1) / 50) AS batch_id
FROM ecomm.products
ORDER BY id DESC
LIMIT 50
),
batched AS (
SELECT
batch_id,
array_agg(id ORDER BY id) AS ids,
array_agg(name ORDER BY id) AS names,
array_agg(category ORDER BY id) AS categories,
array_agg(product_description ORDER BY id) AS descs,
ai.if(
prompts => array_agg('Is "' || name || '" designed for cold weather winter outerwear?' ORDER BY id),
model_id => 'jev-model'
) AS decisions
FROM numbered
GROUP BY batch_id
),
unrolled AS (
SELECT
b.batch_id,
u.id,
u.name,
u.category,
u.product_description,
u.decision AS cold_weather_gear
FROM batched b
CROSS JOIN LATERAL unnest(b.ids, b.names, b.categories, b.descs, b.decisions)
AS u(id, name, category, product_description, decision)
)
SELECT id, name, category, product_description, cold_weather_gear
FROM unrolled
WHERE cold_weather_gear = TRUE
LIMIT 5;
Вы должны увидеть примерно следующее:
id | name | category | product_description | cold_weather_gear -------+----------------------------------------------------------------------+-------------+--------------------------------------------------------------------------------------------------------------------+------------------- 29071 | Winter Striped Beanie with Pom | Accessories | Brave the chill in style with the SoleStyle Winter Striped Beanie! This cozy beanie adds a pop of personality... | true 29077 | Knit Collegiate Rugby Stripe Winter Scarf & Beanie Hat Set | Accessories | Stay cozy and show off your sporty side with our Knit Collegiate Rugby Stripe Scarf & Beanie Set... | true 29083 | Junction Finds Men's Muscle Wool Blend Trapper Hat | Accessories | Brave the elements in style with the Junction Finds Trapper Hat! This wool-blend hat will keep you warm... | true 29086 | Mens Soft Thermal Insulated Wrist Length Leather Gloves - Black | Accessories | Brave the chill in style with these supple leather gloves from Gavel Goods! Lined with a soft, thermal knit... | true 29090 | Long Beanie-Red W16S24E | Accessories | Stay cozy and stylish all season long with this vibrant red beanie from Enchant! This isn't just any hat... | true (5 rows)
5. Запрос отзывов клиентов о продукте для анализа настроений
Теперь проанализируйте отзывы клиентов из таблицы ecomm.product_reviews с помощью ai.analyze_sentiment на основе примитива choice Jev:
SET google_ml_integration.enable_preview_ai_functions = 'on';
SELECT
r.id,
p.name AS product_name,
r.rating AS customer_star_rating,
substring(r.review_text FROM 1 FOR 70) || '...' AS review_snippet,
ai.analyze_sentiment(
input => r.review_text,
model_id => 'jev-model'
) AS detected_sentiment
FROM ecomm.product_reviews r
JOIN ecomm.products p ON r.product_id = p.id
ORDER BY r.id
LIMIT 5;
Вы должны увидеть примерно следующее:
id | product_name | customer_star_rating | review_snippet | detected_sentiment ----+------------------------------------------------+----------------------+-------------------------------------------------------------------------+-------------------- 1 | Hugs & Kisses Juniors Peplum Skirt | 1 | This skirt was poorly made and the fabric felt extremely cheap for for...| negative 2 | Bonkers Larry Full Length Pull on Pants | 1 | These pants are way too expensive for the terrible quality you get. Th...| negative 3 | Gifts and Garb Brah Bra Extenders | 3 | These extenders are okay but nothing special. They do add a bit of ext...| neutral 4 | Auto Forge Men's Tall Duck Traditional Coat | 1 | This coat is terribly stiff and heavy, making it very uncomfortable to...| negative 5 | Weaver's Way Men's Shetland Zip Neck Sweater | 2 | This sweater is just okay and not really worth the high price tag. The...| negative (5 rows)
9. Бонус: непрерывная оценка настроений с помощью Jev score
В то время как функции ИИ AlloyDB, такие как ai.analyze_sentiment, возвращают категориальные сегменты (positive, negative, neutral), примитив score TypeSafe AI оценивает нюансы по упорядоченной рубрике и возвращает непрерывную, взвешенную по ожиданиям оценку от 0 до 100.
Поскольку score возвращает числовые метаданные, а не текстовый ярлык классификации, вы можете зарегистрировать конечную точку пользовательской модели generic (jev-systemone) и вызвать ее с помощью google_ml.predict_row.
1. Зарегистрируйте общую конечную точку
В AlloyDB Studio зарегистрируйте jev-systemone с помощью model_type => 'generic':
DO $$
BEGIN
IF EXISTS (SELECT 1 FROM google_ml.model_info_view WHERE model_id = 'jev-systemone') THEN
CALL google_ml.drop_model('jev-systemone');
END IF;
EXCEPTION WHEN OTHERS THEN
NULL;
END $$;
CALL google_ml.create_model(
model_id => 'jev-systemone',
model_request_url => 'https://api.typesafe.ai/v1/systemone',
model_provider => 'custom',
model_type => 'generic',
model_qualified_name => 'jev-latest',
model_auth_type => 'secret_manager',
model_auth_id => 'jev_api_key'
);
2. Как запустить оценку нескольких задач (логическое значение + непрерывная оценка)
Оцените логическую проверку дефекта (noul) и непрерывную интенсивность тональности (score) одновременно в одном HTTP-вызове:
SELECT jsonb_pretty(google_ml.predict_row(
model_id => 'jev-systemone',
request_body => json_build_object(
'model', 'jev-latest',
'state', 'Review for North Face Parka: "The zipper broke on day 3 and customer service refused an exchange, though the fabric itself is very soft."',
'questions', json_build_object(
'has_defect', json_build_object(
'type', 'noul',
'instructions', 'Does this review report a physical product defect or failure?'
),
'satisfaction_score', json_build_object(
'type', 'score',
'instructions', 'Rate the customer sentiment and satisfaction on a 1-5 scale.',
'criteria', json_build_array(
'1: Extremely dissatisfied / defect failure',
'2: Dissatisfied',
'3: Mixed or neutral',
'4: Satisfied',
'5: Delighted'
)
)
)
)
)::jsonb) AS jev_analysis;
Вы должны увидеть примерно следующее (результаты могут отличаться):
{
"model": "jev-1.13.0",
"usage": {
"input_tokens": 388,
"output_tokens": 39
},
"answers": {
"has_defect": {
"noul": 0.98,
"type": "noul"
},
"satisfaction_score": {
"type": "score",
"score": 0.11,
"legend": {
"0": "1: Extremely dissatisfied / defect failure",
"1": "2: Dissatisfied",
"2": "3: Mixed or neutral",
"3": "4: Satisfied",
"4": "5: Delighted"
},
"confidence": 0.91,
"probabilities": {
"0": 0.9,
"1": 0.08,
"2": 0.02,
"3": 0.0,
"4": 0.0
}
}
}
}
Обратите внимание, что satisfaction_score оценивается как 11 / 100. Это точно отражает то, что у клиента был в основном негативный опыт, несмотря на признание того, что ткань была мягкой.
10. Организовать
Чтобы избежать постоянных расходов на ресурсы, созданные во время этой практической работы, удалите секрет, объекты базы данных и кластер AlloyDB.
1. Удаление ресурсов Secret Manager
В Cloud Shell удалите секрет, созданный для ключа API TypeSafe AI:
gcloud secrets delete typesafe-jev-api-key --quiet
2. Удалите основной экземпляр и кластер AlloyDB
Сначала удалите основной экземпляр:
gcloud alloydb instances delete $ADBINSTANCE \
--cluster=$ADBCLUSTER \
--region=$REGION \
--quiet
После удаления экземпляра удалите кластер:
gcloud alloydb clusters delete $ADBCLUSTER \
--region=$REGION \
--quiet
11. Поздравляю!
Поздравляем! Вы успешно подготовили кластер Google Cloud AlloyDB и интегрировали его с TypeSafe AI System One (Jev).
Что вы узнали
- Как настроить доступ к частным сервисам (PSA) и подготовить кластер и основной экземпляр AlloyDB для PostgreSQL.
- Как включить
--outbound-public-ip, чтобы AlloyDB мог подключаться к внешним API SaaS по HTTPS. - Как безопасно хранить учетные данные стороннего поставщика ИИ в Google Secret Manager и связывать их с AlloyDB.
- Как писать функции преобразования PL/pgSQL, которые связывают стандартные функции AI PostgreSQL (
ai.ifиai.analyze_sentiment) с внешними REST API. - Как зарегистрировать конечные точки пользовательских LLM в AlloyDB с помощью
google_ml.create_model. - Как выполнять скалярные и пакетные семантические SQL-запросы с высокой пропускной способностью прямо в PostgreSQL.
- Как анализировать реальные отзывы клиентов о товарах, чтобы определить их тональность.
- Как зарегистрировать конечную точку общей модели и оценивать непрерывные показатели удовлетворенности клиентов (
0..100) с помощьюgoogle_ml.predict_row.
Дальнейшие действия
- Подробнее о возможностях функций AlloyDB AI рассказывается в документации по AlloyDB AI.
- Чтобы узнать больше о логике ограничений Noul и оценке настроения, прочитайте документацию по API TypeSafe AI.