跳到正文
AWS Machine Learning Blog· InduTeja Aligeti·· 2 小时前AI 评分28

如何为 Amazon Aurora PostgreSQL 设计负责任的 AI 控制措施

Design responsible AI controls for Amazon Aurora PostgreSQL

AI 导读

AWS 将八项负责任 AI(RAI)维度映射到 Amazon Aurora PostgreSQL 的能力上,并以基于 RAG 的客服聊天机器人为参考用例,深入实现其中的可解释性维度。

正文 · AI 翻译

一个客户支持聊天机器人,如果能够查询存储在 Amazon Aurora PostgreSQL-Compatible Edition 中的历史工单和知识库文章,就能提供快速、具备上下文感知的答案。然而,它也会带来隐私、准确性、安全性和治理方面的挑战,尤其是当底层数据包含敏感的客户信息时。在本文中,我们将八个 AWS 负责任 AI(RAI)维度映射到 Aurora PostgreSQL 的能力上。随后,我们以基于检索增强生成(RAG)的客户支持聊天机器人为参考用例,逐步讲解可解释性维度的设计模式。本文深入实现其中一个维度——可解释性。请将其视为系列文章的第 1 部分,而非全部八个维度的完整构建。

Amazon Aurora PostgreSQL-Compatible Edition 通过其原生 Aurora Machine Learning (Aurora ML) 能力,让负责任 AI 的落地实施变得更加简单。借助 Aurora ML,你可以直接从 SQL 中调用 Amazon SageMaker 端点和 Amazon Bedrock 基础模型,无需数据移动、自定义提取、转换和加载(ETL)管道或复杂集成。本文使用 Aurora ML 从 SQL 生成向量嵌入,将嵌入管道保留在数据库层内部。

AWS 定义了八个核心负责任 AI 维度,并通过 AWS Well-Architected Responsible AI Lens、Amazon Bedrock Guardrails 和 Responsible Use of AI Guide 发布。这些维度(公平性、可解释性、隐私与安全、安全性、可控性、真实性与稳健性、治理以及透明度)为评估和实施可信 AI 系统提供了结构化框架。

用例概述

客户支持系统往往难以在保持隐私和合规的同时提供准确、具备上下文感知的响应。设想一个构建在 Amazon Aurora PostgreSQL 上的客户支持聊天机器人,它使用 RAG 与 pgvector 嵌入、Amazon Bedrock 模型推理以及 AWS 负责任 AI 护栏,来提供有依据、可解释的响应。

客户可以提出诸如“为什么我上个月的账单很高?”或“我最近的订单在哪里?”之类的问题,并获得带有引用的准确答案,同时敏感数据通过个人身份信息(PII)脱敏和访问控制保持隐藏。

将 AWS 负责任 AI 维度映射到 Aurora PostgreSQL

下表将八个 AWS 负责任 AI 维度映射到构建在 Amazon Aurora PostgreSQL-Compatible Edition 上的客户支持聊天机器人的实际实施策略。它展示了数据库功能、AWS AI 服务和治理控制如何协同工作,以交付一个可信、安全且可解释的基于 RAG 的聊天机器人。

RAI 维度 含义 实施方法 关键 PostgreSQL / Aurora 功能 主要 AWS 服务 / 工具
1. 公平性 聊天机器人应无论语言、地区或客户画像如何,都提供同等质量的响应 使用多样化支持查询进行偏见测试。将人口统计特征与嵌入解耦。元数据过滤和多语言测试。 pgvector、JSONB 元数据、SQL 过滤、视图 Amazon Bedrock Model Evaluation、Amazon SageMaker Clarify
2. 可解释性 用户和支持团队应了解聊天机器人为何给出特定答案 记录检索到的文本块、相似度分数和引用。带来源归因的 RAG 追踪。完整交互日志记录。 chat_interactions 表、数组列、JSONB 日志、pgvector 相似度 Amazon Bedrock Knowledge Bases、Amazon Bedrock InvokeModel
3. 隐私与安全 保护工单中的客户 PII,例如姓名、电话和订单详情 在嵌入前进行 PII 脱敏。行级安全(RLS)、加密、IAM 认证、RBAC 和匿名化。 行级安全、pgcrypto、角色、策略 Amazon Bedrock Guardrails、AWS KMS、Amazon Comprehend、AWS IAM
4. 安全性 帮助防止有害、有毒或不适当的回复 内容过滤器、拒绝主题、提示注入防护、速率限制和审核。 SQL 函数、交互日志 Amazon Bedrock Guardrails
5. 可控性 引导聊天机器人行为并升级至人工的能力 人工介入升级、反馈表、功能标志、提示控制和终止开关。 chat_feedback 表、升级表、触发器 Amazon Bedrock Guardrails、Amazon CloudWatch、AWS CloudTrail
6. 真实性与稳健性 验证基于支持数据的准确回复并避免幻觉 带相似度阈值的 RAG 接地。版本化文档和验证检查。 pgvector 类型列、CHECK 约束、触发器 Amazon Bedrock Guardrails、Amazon Bedrock Model Evaluation
7. 治理 维护聊天机器人决策的审计追踪和问责 带保留策略的审计日志记录。模型版本跟踪和 Amazon S3 归档。 pgaudit、pg_cron、JSONB 模型元数据 AWS Audit Manager、AWS CloudTrail
8. 透明度 明确告知用户其正在与 AI 交互并展示数据来源 AI 驱动提示、引用、隐私声明和来源说明。 SQL 视图、交互日志 Amazon Bedrock Knowledge Bases、AWS AI Service Cards

注意:这些是示例方法,可能因用例而异。

解决方案概述

此参考架构展示了负责任 AI 控制措施如何映射到 Amazon Aurora PostgreSQL-Compatible Edition 上基于 RAG 的聊天机器人的每个组件。

摄取管道会对支持工单、FAQ 和产品文档中的 PII 进行脱敏,然后将其转换为向量嵌入。当用户提交查询时,AWS Lambda 在 Aurora PostgreSQL 上运行语义搜索,应用 Amazon Bedrock Guardrails 以实现隐私和接地,将受保护的上下文发送到 Amazon Bedrock 基础模型(FM),并记录每次交互以实现可解释性和治理。

Lambda 将回复接地于企业数据,脱敏 PII 并应用行级安全(RLS)以保护隐私,记录引用和交互日志以实现可解释性,并写入审计记录以实现治理。

何时构建此方案与使用托管服务的对比:Amazon Bedrock Knowledge Bases 提供内置的带引用 RAG,当默认检索和引用行为满足您的需求时,它是更简单的选择。当您需要将来源信息存储在您自己的架构中时,请构建本文中的自定义日志记录设计。该来源信息包括检索来源与引用来源、相似度分数以及可使用 SQL 查询并根据您自己的策略保留的护栏追踪。

下图展示了此解决方案的端到端架构,显示了数据摄取流程(左侧)、查询和响应流程(中间),以及每个阶段应用的负责任 AI 控制措施(中间和右侧)。

Architecture diagram showing a user question flowing through API Gateway to Lambda inside a VPC. Lambda converts the question into a vector with Aurora ML and Titan Text Embeddings, runs a pgvector similarity search in Aurora PostgreSQL, sends the question and retrieved context to Amazon Bedrock for guardrail checks and grounded answer generation, and logs the interaction to Aurora. Supporting paths show audit export to Amazon S3 and logs to CloudWatch and CloudTrail.

图 1:Amazon Aurora PostgreSQL 上带负责任 AI 控制的基于 RAG 的客户支持聊天机器人架构

数据摄取

摄取管道在脱敏 PII 后,将历史支持工单、FAQ 和产品文档加载到 Amazon Aurora PostgreSQL 中,并使用 pgvector 和 aws_ml 扩展进行向量操作和 Aurora ML 集成。

Aurora ML 的 aws_bedrock.invoke_model_get_embeddings 函数将文本转换为 Amazon Titan Text Embeddings V2 向量(1,024 维),并由 pgvector 存储这些向量。

Aurora PostgreSQL 既作为结构化客户数据的关系存储,又作为用于语义搜索的向量数据库。

查询与响应流程

当用户提出问题时,聊天机器人按以下步骤执行(见图 1):

  1. 用户通过 HTTPS 向 Amazon API Gateway 发送自然语言问题。
  2. API Gateway 调用 AWS Lambda。
  3. 将问题转换为向量。Lambda 使用 Amazon Titan Text Embeddings V2 调用 Aurora ML 的 aws_bedrock.invoke_model_get_embeddings 函数。这里必须使用与嵌入知识库时相同的模型,这样问题和文档才能生成可比较的 1,024 维向量。
  4. 运行相似性搜索。Aurora PostgreSQL 使用 pgvector 余弦距离运算符将问题向量与已存储的知识向量进行比较,并返回最相关的文本块及其相似度分数。行级安全机制将结果限制为当前租户。
  5. 构建增强提示词。Lambda 将用户的问题与检索到的文本块组合起来,并为每个文本块标注 [Source N]。这使模型能够获得来自你的数据库、原本无法获取的知识。
  6. 生成有依据的回答。Lambda 将提示词发送到 Amazon Bedrock。护栏检查输入(内容过滤器、拒绝主题、PII),基础模型根据检索到的文本块撰写回答,上下文依据性检查确认回答得到这些来源的支持。
  7. 记录交互以实现可解释性。Lambda 将完整交互写入 chat_interactions 表:问题、检索到的文本块 ID、相似度分数、实际引用的来源、护栏跟踪记录以及模型 ID。
  8. Lambda 将回答及其来源引用返回给用户。

支持性操作与每个请求分开运行:

  • 摄取:文档嵌入在内容加载时创建一次(参见数据摄取)。
  • 保留:pg_cron 将较旧的交互记录归档到 Amazon Simple Storage Service(Amazon S3)。
  • 监控:Lambda 将日志和指标发送到 Amazon CloudWatch,AWS CloudTrail 记录 API 活动以供审计。

先决条件

开始之前,请确保已具备以下条件:

  • 已启用 pgvector 扩展的 Amazon Aurora PostgreSQL 集群。HNSW 索引和迭代索引扫描需要较新的 pgvector 版本,而 Aurora ML 和 Amazon Bedrock 模型支持是分别进行版本管理的。请参阅 Aurora ML、pgvector 和 Bedrock 文档以了解当前最低版本,而不是固定到某个特定版本。
  • 集群上已启用 aws_ml 扩展(CREATE EXTENSION IF NOT EXISTS aws_ml CASCADE),并附加了授予 bedrock:InvokeModel 的 AWS Identity and Access Management(IAM)角色。Aurora ML 在集群所在区域调用 Bedrock。
  • 集群上已启用 aws_s3 扩展(CREATE EXTENSION IF NOT EXISTS aws_s3 CASCADE),并为 s3Export 功能附加了 IAM 角色,以便保留作业可以导出到 Amazon S3。
  • 使用 Amazon Titan Text Embeddings V2(amazon.titan-embed-text-v2:0)访问 Amazon Bedrock 以生成嵌入,并使用支持 Bedrock Converse API 的基础模型生成答案。模型可用性和推荐版本会随时间变化,因此请从 Amazon Bedrock 中受支持的基础模型里选择当前模型。较新的模型通过跨区域推理配置文件 ID 调用。
  • 配置 Amazon Bedrock Guardrails 以实现 PII 保护、内容过滤和上下文接地(在 Guardrail 配置中启用上下文接地策略)。
  • 具有 Amazon Bedrock、Lambda 和 Aurora PostgreSQL 相应权限的 IAM 角色。
  • 一个自定义集群参数组,在现有 shared_preload_libraries 值中追加 pgaudit 和 pg_cron(追加而非替换,以便保留 pg_stat_statements 等默认值。这需要重启集群)。将 cron.database_name 设置为目标数据库。
  • 基本熟悉 PostgreSQL、SQL 和 Python。

注意:此处列出的先决条件侧重于数据库层。您的应用层(例如 AWS Lambda、Amazon API Gateway 和聊天 UI)是独立的,取决于您的部署架构。

可解释性维度的设计模式

本节介绍数据库层设计模式,使每个 AI 生成的响应都可追溯,从用户查询、检索和护栏评估,一直到最终答案及其引用。

步骤 1:设置数据库架构

创建用于客户数据、聊天会话、交互日志和反馈的核心表:

首先创建所需的架构和表。每个表对应一个特定的负责任 AI 维度:

CREATE SCHEMA IF NOT EXISTS rai_postgresql;

customers 表存储用于租户感知访问控制的配置文件:

CREATE TABLE rai_postgresql.customers (
    customer_id  UUID PRIMARY KEY DEFAULT gen_random_uuid(),
    full_name    VARCHAR(150) NOT NULL,
    email        VARCHAR(255) UNIQUE NOT NULL,
    phone        VARCHAR(20),
    created_at   TIMESTAMP WITH TIME ZONE DEFAULT NOW(),
    is_active    BOOLEAN DEFAULT TRUE,
    metadata     JSONB DEFAULT '{}'
);

chat_interactions 表是可解释性实现的核心。它记录每个查询-响应周期及完整的 RAG 溯源信息,包括检索到的分块 ID、相似度分数、引用来源与检索来源、护栏追踪以及所使用的模型:

CREATE TABLE rai_postgresql.chat_interactions (
    interaction_id        UUID PRIMARY KEY DEFAULT gen_random_uuid(),
    session_id            UUID NOT NULL,
    customer_id           UUID NOT NULL REFERENCES rai_postgresql.customers(customer_id),
    turn_number           INTEGER NOT NULL DEFAULT 1,
    request_text          TEXT NOT NULL,
    request_timestamp     TIMESTAMP WITH TIME ZONE DEFAULT NOW(),
    response_text         TEXT,
    response_timestamp    TIMESTAMP WITH TIME ZONE,
    response_latency_ms   INTEGER,
    intent                VARCHAR(100),
    confidence_score      NUMERIC(5, 4),
    -- Explainability columns
    retrieved_chunk_ids   UUID[],          -- IDs of chunks returned by pgvector
    similarity_scores     NUMERIC[],       -- cosine similarity per chunk
    citations             JSONB,           -- cited vs. all-retrieved sources
    guardrail_assessment  JSONB,           -- full Guardrail trace
    model_id              VARCHAR(100),    -- Bedrock model used
    guardrail_version     VARCHAR(20)      -- Guardrail version applied
);

由于 chat_interactions 存储原始 request_text 和 response_text,请像保护源数据一样保护它:在 INSERT 之前脱敏 PII(复用摄取时的护栏),或使用 pgcrypto 加密这些列,并对日志表应用行级安全性,使租户无法读取彼此的交互。记录未受保护的客户内容会削弱此设计旨在展示的隐私与安全控制。

chat_feedback 表捕获用户对聊天机器人响应的评分和评论,这支持可控性维度。ON DELETE CASCADE 子句确保 90 天保留期清理不会因外键冲突而失败:

CREATE TABLE rai_postgresql.chat_feedback (
    feedback_id     UUID PRIMARY KEY DEFAULT gen_random_uuid(),
    interaction_id  UUID NOT NULL
        REFERENCES rai_postgresql.chat_interactions(interaction_id)
        ON DELETE CASCADE,
    customer_id     UUID NOT NULL REFERENCES rai_postgresql.customers(customer_id),
    rating          SMALLINT NOT NULL CHECK (rating BETWEEN 1 AND 5),
    feedback_text   TEXT,
    created_at      TIMESTAMP WITH TIME ZONE DEFAULT NOW()
);

步骤 2:使用 pgvector 和 Aurora ML 准备知识库

创建具有向量嵌入、租户隔离和 Aurora ML 集成的检索层:

CREATE EXTENSION IF NOT EXISTS vector;
CREATE EXTENSION IF NOT EXISTS aws_ml CASCADE;

CREATE TABLE rai_postgresql.knowledge_chunks (
    chunk_id    UUID PRIMARY KEY DEFAULT gen_random_uuid(),
    ticket_id   UUID NOT NULL,
    content     TEXT NOT NULL,
    embedding   VECTOR(1024),       -- Amazon Titan Text Embeddings V2 (default 1024)
    metadata    JSONB,              -- source, date, category, product
    tenant_id   UUID,
    created_at  TIMESTAMP DEFAULT NOW()
);

创建 HNSW 索引以实现快速近似最近邻搜索:

-- HNSW index for approximate nearest neighbor search
CREATE INDEX idx_chunks_embedding ON rai_postgresql.knowledge_chunks
USING hnsw (embedding vector_cosine_ops);

通过行级安全性实施租户隔离,使向量搜索结果在数据离开数据库之前限定于当前租户:

-- Row-Level Security for tenant isolation (Privacy & Security)
-- FORCE RLS, non-owner role, safe current_setting
ALTER TABLE rai_postgresql.knowledge_chunks ENABLE ROW LEVEL SECURITY;
ALTER TABLE rai_postgresql.knowledge_chunks FORCE ROW LEVEL SECURITY;

CREATE ROLE app_user;
GRANT USAGE ON SCHEMA rai_postgresql TO app_user;
GRANT SELECT ON rai_postgresql.knowledge_chunks TO app_user;

CREATE POLICY tenant_isolation ON rai_postgresql.knowledge_chunks
USING (
    current_setting('app.current_tenant', true) IS NOT NULL
    AND tenant_id = current_setting('app.current_tenant', true)::uuid
);

使用 Aurora ML 直接从 SQL 生成向量嵌入,将嵌入管道保留在数据库层内:

-- Generate embeddings using Aurora ML
-- No Lambda/boto3 needed for embeddings --- runs inside the database
UPDATE rai_postgresql.knowledge_chunks
SET embedding = aws_bedrock.invoke_model_get_embeddings(
    'amazon.titan-embed-text-v2:0',    -- model_id
    'application/json',                -- content_type
    'embedding',                       -- json_key to extract
    json_build_object('inputText', content)::text    -- model_input
)::vector
WHERE embedding IS NULL;

在将数据插入知识库之前,务必脱敏 PII。使用 Amazon Bedrock Guardrails(ApplyGuardrail API)或 Amazon Comprehend(detect_pii_entities API)在摄取管道中识别并掩码 PII,如下例所示:

# Example: Redact PII using Bedrock Guardrails ApplyGuardrail API
response = bedrock.apply_guardrail(guardrailIdentifier=guardrail_id,
    source='INPUT', content=[{'text': {'text': raw_text}}])
# outputs is empty when nothing is flagged; masking requires an ANONYMIZE PII policy (not BLOCK)
redacted_text = (response['outputs'][0]['text']
    if response.get('outputs') else raw_text)

步骤 3:检索上下文并生成响应

当查询到达应用层时,使用 pgvector 余弦相似度算子检索最匹配的知识块。以下 SQL 查询展示了这一模式:

-- Connect as app_user and set the tenant for this transaction so RLS returns rows
SET LOCAL app.current_tenant = '11111111-1111-1111-1111-111111111111';

-- Retrieve top 5 relevant chunks for a query
SELECT chunk_id, content, metadata,
    1 - (embedding <=> :query_embedding::vector) AS cosine_similarity
FROM rai_postgresql.knowledge_chunks
WHERE metadata ->> 'category' = :intent_category
    AND 1 - (embedding <=> :query_embedding::vector) >= 0.7 -- drop weak matches
ORDER BY embedding <=> :query_embedding::vector
LIMIT 5;

注意:0.7 的余弦相似度阈值会丢弃弱相关的块,以免模型基于噪声进行推理。请根据你自己的数据调整该阈值。类别过滤和此阈值都会对 HNSW 结果进行后过滤,可能返回少于 5 行。可提高 hnsw.ef_search 或使用迭代索引扫描(pgvector 0.8.0+)来补偿。

以下伪代码展示了上下文接地、护栏干预处理、引用解析和交互日志记录的关键模式。这些片段侧重于负责任 AI 逻辑,而非应用管道。

使用 guardContent 块在 Bedrock Converse API 中启用上下文接地:

# Contextual grounding --- tag context and query for guardrail evaluation
response = bedrock.converse(
    modelId=model_id,
    messages=[{'role': 'user', 'content': [
        {'guardContent': {'text': {'text': context, 'qualifiers': ['grounding_source']}}},
        {'guardContent': {'text': {'text': query, 'qualifiers': ['query']}}},
        {'text': prompt}
    ]}],
    guardrailConfig={'guardrailIdentifier': guardrail_id,
        'guardrailVersion': '1', 'trace': 'enabled'},
    inferenceConfig={'maxTokens': 500, 'temperature': 0.1})

检查 stopReason 以处理护栏阻止响应的情况:

# Handle guardrail intervention
if response.get('stopReason') == 'guardrail_intervened':
    answer = 'Unable to answer --- content flagged by guardrail.'
    trace = response.get('trace', {}).get('guardrail', {})
else:
    answer = response['output']['message']['content'][0]['text']

区分实际引用的来源与所有检索到的来源。在可解释性文章中,这一区分正是重点:

# Parse [Source N] markers from the model answer
cited_indices = re.findall(r'\[Source (\d+)\]', answer)
cited = [retrieved[n-1] for n in map(int, cited_indices) if n-1 < len(retrieved)]
citations = {'cited_sources': cited, 'all_retrieved': retrieved,
    'citation_rate': len(cited) / len(retrieved) if retrieved else 0}

为可解释性记录每一次交互。INSERT 捕获完整的 RAG 溯源链:

INSERT INTO rai_postgresql.chat_interactions (
    session_id, customer_id, request_text, response_text,
    response_timestamp, response_latency_ms, intent, confidence_score,
    retrieved_chunk_ids, similarity_scores, citations,
    guardrail_assessment, model_id, guardrail_version
) VALUES (%s, %s, %s, %s, NOW(), %s, %s, %s, %s, %s, %s, %s, %s, %s);

我们将 confidence_score 定义为 top-k 检索块的余弦相似度均值。intent 字段对查询进行分类(例如 billing 或 order_status),response_latency_ms 记录端到端推理时间。

步骤 4:记录交互并添加治理

每一次聊天机器人交互(用户查询、检索到的块、相似度分数、响应和引用)都使用步骤 3 中所示的 INSERT 记录到 chat_interactions 表中,以支持可解释性和透明度。chat_feedback 中捕获的客户反馈支持持续改进,强化可控性。在治理方面,pgaudit 提供查询审计轨迹,pg_cron 驱动自动化数据保留。

设置 pgaudit 和 pg_cron,两者都需要 shared_preload_libraries(参见先决条件):

CREATE EXTENSION IF NOT EXISTS pgaudit;
CREATE EXTENSION IF NOT EXISTS pg_cron;

-- Audit everything the application role does. In RDS/Aurora, object-level
-- auditing uses pgaudit.role = 'rds_pgaudit'; see the pgaudit docs for scope.
ALTER ROLE app_user SET pgaudit.log = 'write, ddl';
ALTER ROLE app_user SET pgaudit.log_relation = 'on';

用于治理审查的查询:

-- Find low-confidence responses for review
SELECT interaction_id, request_text, response_text,
    confidence_score, intent, request_timestamp
FROM rai_postgresql.chat_interactions
WHERE confidence_score < 0.80
ORDER BY request_timestamp DESC LIMIT 10;

-- Analyze feedback by intent
SELECT ci.intent, AVG(cf.rating) AS avg_rating, COUNT(*) AS total,
    COUNT(*) FILTER (WHERE cf.rating <= 2) AS low_ratings
FROM rai_postgresql.chat_feedback cf
JOIN rai_postgresql.chat_interactions ci
    ON cf.interaction_id = ci.interaction_id
GROUP BY ci.intent ORDER BY avg_rating ASC;

将两个表归档到 Amazon S3,仅在导出成功后进行清除。将归档和清除作为两个独立的 cron 作业运行是不安全的:如果归档失败,单独调度的清除仍会删除行。将两者包装在一个函数中,使 DELETE 仅在导出返回时运行。同时归档 chat_feedback,否则级联会删除未保存的反馈。90 天窗口符合典型的支持数据保留策略。请根据你自己的监管要求进行调整。

-- One job: archive both tables, then purge only if the export succeeded
CREATE OR REPLACE FUNCTION rai_postgresql.archive_and_purge(cutoff INTERVAL DEFAULT '90 days')
RETURNS void LANGUAGE plpgsql AS $$
DECLARE exported bigint;
BEGIN
    -- Archive interactions due for purge
    SELECT rows_uploaded INTO exported FROM aws_s3.query_export_to_s3(
        format('SELECT * FROM rai_postgresql.chat_interactions
            WHERE request_timestamp < NOW() - %L', cutoff),
        aws_commons.create_s3_uri('your-audit-bucket',
            'chat-interactions/'||to_char(NOW(),'YYYY-MM-DD')||'.csv', 'us-east-1'));

    -- Archive the feedback that the cascade would otherwise delete
    PERFORM aws_s3.query_export_to_s3(
        format('SELECT cf.* FROM rai_postgresql.chat_feedback cf
            JOIN rai_postgresql.chat_interactions ci USING (interaction_id)
            WHERE ci.request_timestamp < NOW() - %L', cutoff),
        aws_commons.create_s3_uri('your-audit-bucket',
            'chat-feedback/'||to_char(NOW(),'YYYY-MM-DD')||'.csv', 'us-east-1'));

    -- Purge only after a successful export (feedback goes via ON DELETE CASCADE)
    IF exported IS NOT NULL THEN
        DELETE FROM rai_postgresql.chat_interactions
        WHERE request_timestamp < NOW() - cutoff;
    END IF;
END $$;

-- Schedule the single ordered job
SELECT cron.schedule('archive_and_purge', '0 0 * * *',
    $$SELECT rai_postgresql.archive_and_purge()$$);

验证解决方案

端到端运行一个问题,然后读取它生成的行。这一行就是设计有效的证据:它显示了检索到哪些块、它们的相似程度、答案实际引用了哪些来源以及护栏结果。

SELECT request_text, model_id, confidence_score,
    retrieved_chunk_ids, similarity_scores,
    citations -> 'cited_sources' AS cited,
    guardrail_assessment -> 'action' AS guardrail_action
FROM rai_postgresql.chat_interactions
ORDER BY request_timestamp DESC LIMIT 1;

预期:一行,其 cited_sources 是 retrieved_chunk_ids 的子集,similarity_scores 达到或超过你的 0.7 阈值,并且对于干净的问题,guardrail_action 为 NONE。如果 cited_sources 为空,则模型未对其答案进行接地,应谨慎对待该响应。

局限性和注意事项

  • Amazon Bedrock Guardrails 会为每次推理调用增加延迟,并按文本单元收费。上下文接地有额外定价。在生产部署前对响应时间和成本进行基准测试。
  • 交互日志会随时间增长存储。S3 归档和清除 cron 作业有助于管理这一点,但请监控你的 Aurora 存储并根据需要调整保留期。
  • HNSW 索引提供近似最近邻搜索。后过滤(例如按类别或租户)在索引扫描后运行,可能返回少于 LIMIT 的行数。增加 hnsw.ef_search 或使用迭代索引扫描(pgvector 0.8.0+)以提高召回率。
  • 上下文接地检查评估模型的响应是否基于所提供的上下文。它并不保证源文档本身的事实准确性。
  • Aurora ML 嵌入生成在数据库中同步运行。对于大批量数据摄取,请考虑批量更新或使用异步管道。
  • 本文中除 Aurora ML(aws_bedrock.invoke_model_get_embeddings 调用)之外的所有内容同样适用于 Amazon Relational Database Service(Amazon RDS)for PostgreSQL。

清理

为避免持续产生费用,如果您为本演练创建了以下资源,请将其删除:

  1. 请先取消 cron 作业的调度,否则一旦 schema 被删除,它每晚都会失败:SELECT cron.unschedule('archive_and_purge');。
  2. 删除 schema:DROP SCHEMA rai_postgresql CASCADE;。
  3. 删除 Amazon Bedrock Guardrail。
  4. 删除 AWS Lambda 函数和 API Gateway 端点。
  5. 删除 Amazon S3 审计存储桶(或配置生命周期策略)。
  6. 删除 Aurora PostgreSQL 集群(如果您计划复用,请将其停止)。
  7. 删除为 Bedrock 和 Aurora ML 集成创建的 IAM 角色。
  8. 删除应用程序角色(DROP SCHEMA 不会删除角色):DROP ROLE app_user;。

成本注意事项:此解决方案使用 Amazon Aurora PostgreSQL、Amazon Bedrock(模型推理和嵌入)以及 Amazon Bedrock Guardrails。费用因区域、实例大小、请求量和模型选择而异。有关定价详情,请参阅各服务的定价页面。

结论

Amazon Aurora PostgreSQL-Compatible Edition 结合 pgvector、行级安全性、pgaudit、pgcrypto、pg_cron 和 Aurora ML,为负责任 AI 提供了数据库层的构建模块。如映射表所示,若干维度还依赖于数据库之外的 AWS 服务。

在本文中,我们以可解释性维度为重点进行了详细的设计演练。通过在 Aurora 中记录检索到的分块 ID、相似度分数、引用的来源和护栏跟踪,您可以在数据库层获得可查询的审计跟踪。映射表展示了其余维度如何构建在同一基础之上,将 Aurora PostgreSQL 功能与 AWS AI 服务相结合。

这些设计模式的主要要点如下:

  • 在查询时记录检索溯源信息:检索到和引用的分块 ID、相似度分数以及护栏跟踪。
  • 区分实际引用的来源与所有检索到的内容。正是这种区分使答案具有可解释性。
  • 使用行级安全性强制实施租户隔离,并在运行向量搜索之前设置租户上下文。
  • 在清除之前归档审计数据,并像保护源数据一样谨慎地保护日志表。

下一步,请探索 Amazon Bedrock Knowledge Bases,这是完全托管的 RAG 能力,目前在许多 AWS 区域支持将 Aurora PostgreSQL 作为向量存储,并提供内置的引用生成功能,有助于减少新项目中实现可解释性所需的自定义集成代码。


关于作者

InduTeja Aligeti

InduTeja Aligeti

InduTeja 是 AWS 的高级首席数据库顾问。她拥有超过 18 年使用 Microsoft 技术的经验,专攻 SQL Server。她专注于帮助客户构建高可用、经济高效的数据库解决方案,并将其大规模 SQL Server 数据库迁移到 AWS。她还致力于 Aurora PostgreSQL 的负责任 AI 集成模式,将数据库治理功能与 AWS AI 服务相结合。

Nisha Gambhir

Nisha Gambhir

Nisha 是 Amazon Web Services 的高级 AI/ML 与云架构师,常驻印度。她热衷于帮助客户使用 AI/ML 和 Agentic AI 设计、架构并开发安全、可扩展且可靠的应用。她热爱研究最新技术,提供简单且可扩展的解决方案,以推动积极的业务成果。

Anuradha Chintha

Anuradha Chintha

Anuradha 是 Amazon Web Services 的交付顾问。她与客户合作,在 AWS 云中构建可扩展、高可用且安全的解决方案。她专注于同构和异构数据库迁移,包括将 Microsoft SQL Server 和 Oracle 迁移至 Amazon Aurora PostgreSQL。她还运用 DevOps 实践来自动化数据库部署和测试。

来源:AWS Machine Learning Blog · aws.amazon.com