如何为 Amazon Aurora PostgreSQL 设计负责任的 AI 控制措施
Design responsible AI controls for Amazon Aurora PostgreSQL
AWS 将八项负责任 AI(RAI)维度映射到 Amazon Aurora PostgreSQL 的能力上,并以基于 RAG 的客服聊天机器人为参考用例,深入实现其中的可解释性维度。
一个客户支持聊天机器人,如果能够查询存储在 Amazon Aurora PostgreSQL-Compatible Edition 中的历史工单和知识库文章,就能提供快速、具备上下文感知的答案。然而,它也会带来隐私、准确性、安全性和治理方面的挑战,尤其是当底层数据包含敏感的客户信息时。在本文中,我们将八个 AWS 负责任 AI(RAI)维度映射到 Aurora PostgreSQL 的能力上。随后,我们以基于检索增强生成(RAG)的客户支持聊天机器人为参考用例,逐步讲解可解释性维度的设计模式。本文深入实现其中一个维度——可解释性。请将其视为系列文章的第 1 部分,而非全部八个维度的完整构建。
Amazon Aurora PostgreSQL-Compatible Edition 通过其原生 Aurora Machine Learning (Aurora ML) 能力,让负责任 AI 的落地实施变得更加简单。借助 Aurora ML,你可以直接从 SQL 中调用 Amazon SageMaker 端点和 Amazon Bedrock 基础模型,无需数据移动、自定义提取、转换和加载(ETL)管道或复杂集成。本文使用 Aurora ML 从 SQL 生成向量嵌入,将嵌入管道保留在数据库层内部。
AWS 定义了八个核心负责任 AI 维度,并通过 AWS Well-Architected Responsible AI Lens、Amazon Bedrock Guardrails 和 Responsible Use of AI Guide 发布。这些维度(公平性、可解释性、隐私与安全、安全性、可控性、真实性与稳健性、治理以及透明度)为评估和实施可信 AI 系统提供了结构化框架。
用例概述
客户支持系统往往难以在保持隐私和合规的同时提供准确、具备上下文感知的响应。设想一个构建在 Amazon Aurora PostgreSQL 上的客户支持聊天机器人,它使用 RAG 与 pgvector 嵌入、Amazon Bedrock 模型推理以及 AWS 负责任 AI 护栏,来提供有依据、可解释的响应。
客户可以提出诸如“为什么我上个月的账单很高?”或“我最近的订单在哪里?”之类的问题,并获得带有引用的准确答案,同时敏感数据通过个人身份信息(PII)脱敏和访问控制保持隐藏。
将 AWS 负责任 AI 维度映射到 Aurora PostgreSQL
下表将八个 AWS 负责任 AI 维度映射到构建在 Amazon Aurora PostgreSQL-Compatible Edition 上的客户支持聊天机器人的实际实施策略。它展示了数据库功能、AWS AI 服务和治理控制如何协同工作,以交付一个可信、安全且可解释的基于 RAG 的聊天机器人。
| RAI 维度 | 含义 | 实施方法 | 关键 PostgreSQL / Aurora 功能 | 主要 AWS 服务 / 工具 |
| 1. 公平性 | 聊天机器人应无论语言、地区或客户画像如何,都提供同等质量的响应 | 使用多样化支持查询进行偏见测试。将人口统计特征与嵌入解耦。元数据过滤和多语言测试。 | pgvector、JSONB 元数据、SQL 过滤、视图 | Amazon Bedrock Model Evaluation、Amazon SageMaker Clarify |
| 2. 可解释性 | 用户和支持团队应了解聊天机器人为何给出特定答案 | 记录检索到的文本块、相似度分数和引用。带来源归因的 RAG 追踪。完整交互日志记录。 | chat_interactions 表、数组列、JSONB 日志、pgvector 相似度 | Amazon Bedrock Knowledge Bases、Amazon Bedrock InvokeModel |
| 3. 隐私与安全 | 保护工单中的客户 PII,例如姓名、电话和订单详情 | 在嵌入前进行 PII 脱敏。行级安全(RLS)、加密、IAM 认证、RBAC 和匿名化。 | 行级安全、pgcrypto、角色、策略 | Amazon Bedrock Guardrails、AWS KMS、Amazon Comprehend、AWS IAM |
| 4. 安全性 | 帮助防止有害、有毒或不适当的回复 | 内容过滤器、拒绝主题、提示注入防护、速率限制和审核。 | SQL 函数、交互日志 | Amazon Bedrock Guardrails |
| 5. 可控性 | 引导聊天机器人行为并升级至人工的能力 | 人工介入升级、反馈表、功能标志、提示控制和终止开关。 | chat_feedback 表、升级表、触发器 | Amazon Bedrock Guardrails、Amazon CloudWatch、AWS CloudTrail |
| 6. 真实性与稳健性 | 验证基于支持数据的准确回复并避免幻觉 | 带相似度阈值的 RAG 接地。版本化文档和验证检查。 | pgvector 类型列、CHECK 约束、触发器 | Amazon Bedrock Guardrails、Amazon Bedrock Model Evaluation |
| 7. 治理 | 维护聊天机器人决策的审计追踪和问责 | 带保留策略的审计日志记录。模型版本跟踪和 Amazon S3 归档。 | pgaudit、pg_cron、JSONB 模型元数据 | AWS Audit Manager、AWS CloudTrail |
| 8. 透明度 | 明确告知用户其正在与 AI 交互并展示数据来源 | AI 驱动提示、引用、隐私声明和来源说明。 | SQL 视图、交互日志 | Amazon Bedrock Knowledge Bases、AWS AI Service Cards |
注意:这些是示例方法,可能因用例而异。
解决方案概述
此参考架构展示了负责任 AI 控制措施如何映射到 Amazon Aurora PostgreSQL-Compatible Edition 上基于 RAG 的聊天机器人的每个组件。
摄取管道会对支持工单、FAQ 和产品文档中的 PII 进行脱敏,然后将其转换为向量嵌入。当用户提交查询时,AWS Lambda 在 Aurora PostgreSQL 上运行语义搜索,应用 Amazon Bedrock Guardrails 以实现隐私和接地,将受保护的上下文发送到 Amazon Bedrock 基础模型(FM),并记录每次交互以实现可解释性和治理。
Lambda 将回复接地于企业数据,脱敏 PII 并应用行级安全(RLS)以保护隐私,记录引用和交互日志以实现可解释性,并写入审计记录以实现治理。
何时构建此方案与使用托管服务的对比:Amazon Bedrock Knowledge Bases 提供内置的带引用 RAG,当默认检索和引用行为满足您的需求时,它是更简单的选择。当您需要将来源信息存储在您自己的架构中时,请构建本文中的自定义日志记录设计。该来源信息包括检索来源与引用来源、相似度分数以及可使用 SQL 查询并根据您自己的策略保留的护栏追踪。
下图展示了此解决方案的端到端架构,显示了数据摄取流程(左侧)、查询和响应流程(中间),以及每个阶段应用的负责任 AI 控制措施(中间和右侧)。
图 1:Amazon Aurora PostgreSQL 上带负责任 AI 控制的基于 RAG 的客户支持聊天机器人架构
数据摄取
摄取管道在脱敏 PII 后,将历史支持工单、FAQ 和产品文档加载到 Amazon Aurora PostgreSQL 中,并使用 pgvector 和 aws_ml 扩展进行向量操作和 Aurora ML 集成。
Aurora ML 的 aws_bedrock.invoke_model_get_embeddings 函数将文本转换为 Amazon Titan Text Embeddings V2 向量(1,024 维),并由 pgvector 存储这些向量。
Aurora PostgreSQL 既作为结构化客户数据的关系存储,又作为用于语义搜索的向量数据库。
查询与响应流程
当用户提出问题时,聊天机器人按以下步骤执行(见图 1):
- 用户通过 HTTPS 向 Amazon API Gateway 发送自然语言问题。
- API Gateway 调用 AWS Lambda。
- 将问题转换为向量。Lambda 使用 Amazon Titan Text Embeddings V2 调用 Aurora ML 的
aws_bedrock.invoke_model_get_embeddings函数。这里必须使用与嵌入知识库时相同的模型,这样问题和文档才能生成可比较的 1,024 维向量。 - 运行相似性搜索。Aurora PostgreSQL 使用
pgvector余弦距离运算符将问题向量与已存储的知识向量进行比较,并返回最相关的文本块及其相似度分数。行级安全机制将结果限制为当前租户。 - 构建增强提示词。Lambda 将用户的问题与检索到的文本块组合起来,并为每个文本块标注
[Source N]。这使模型能够获得来自你的数据库、原本无法获取的知识。 - 生成有依据的回答。Lambda 将提示词发送到 Amazon Bedrock。护栏检查输入(内容过滤器、拒绝主题、PII),基础模型根据检索到的文本块撰写回答,上下文依据性检查确认回答得到这些来源的支持。
- 记录交互以实现可解释性。Lambda 将完整交互写入
chat_interactions表:问题、检索到的文本块 ID、相似度分数、实际引用的来源、护栏跟踪记录以及模型 ID。 - Lambda 将回答及其来源引用返回给用户。
支持性操作与每个请求分开运行:
- 摄取:文档嵌入在内容加载时创建一次(参见数据摄取)。
- 保留:
pg_cron将较旧的交互记录归档到 Amazon Simple Storage Service(Amazon S3)。 - 监控:Lambda 将日志和指标发送到 Amazon CloudWatch,AWS CloudTrail 记录 API 活动以供审计。
先决条件
开始之前,请确保已具备以下条件:
- 已启用
pgvector扩展的 Amazon Aurora PostgreSQL 集群。HNSW 索引和迭代索引扫描需要较新的pgvector版本,而 Aurora ML 和 Amazon Bedrock 模型支持是分别进行版本管理的。请参阅 Aurora ML、pgvector 和 Bedrock 文档以了解当前最低版本,而不是固定到某个特定版本。 - 集群上已启用
aws_ml扩展(CREATE EXTENSION IF NOT EXISTS aws_ml CASCADE),并附加了授予bedrock:InvokeModel的 AWS Identity and Access Management(IAM)角色。Aurora ML 在集群所在区域调用 Bedrock。 - 集群上已启用
aws_s3扩展(CREATE EXTENSION IF NOT EXISTS aws_s3 CASCADE),并为s3Export功能附加了 IAM 角色,以便保留作业可以导出到 Amazon S3。 - 使用 Amazon Titan Text Embeddings V2(
amazon.titan-embed-text-v2:0)访问 Amazon Bedrock 以生成嵌入,并使用支持 Bedrock Converse API 的基础模型生成答案。模型可用性和推荐版本会随时间变化,因此请从 Amazon Bedrock 中受支持的基础模型里选择当前模型。较新的模型通过跨区域推理配置文件 ID 调用。 - 配置 Amazon Bedrock Guardrails 以实现 PII 保护、内容过滤和上下文接地(在 Guardrail 配置中启用上下文接地策略)。
- 具有 Amazon Bedrock、Lambda 和 Aurora PostgreSQL 相应权限的 IAM 角色。
- 一个自定义集群参数组,在现有
shared_preload_libraries值中追加pgaudit和pg_cron(追加而非替换,以便保留pg_stat_statements等默认值。这需要重启集群)。将cron.database_name设置为目标数据库。 - 基本熟悉 PostgreSQL、SQL 和 Python。
注意:此处列出的先决条件侧重于数据库层。您的应用层(例如 AWS Lambda、Amazon API Gateway 和聊天 UI)是独立的,取决于您的部署架构。
可解释性维度的设计模式
本节介绍数据库层设计模式,使每个 AI 生成的响应都可追溯,从用户查询、检索和护栏评估,一直到最终答案及其引用。
步骤 1:设置数据库架构
创建用于客户数据、聊天会话、交互日志和反馈的核心表:
首先创建所需的架构和表。每个表对应一个特定的负责任 AI 维度:
CREATE SCHEMA IF NOT EXISTS rai_postgresql;customers 表存储用于租户感知访问控制的配置文件:
CREATE TABLE rai_postgresql.customers (
customer_id UUID PRIMARY KEY DEFAULT gen_random_uuid(),
full_name VARCHAR(150) NOT NULL,
email VARCHAR(255) UNIQUE NOT NULL,
phone VARCHAR(20),
created_at TIMESTAMP WITH TIME ZONE DEFAULT NOW(),
is_active BOOLEAN DEFAULT TRUE,
metadata JSONB DEFAULT '{}'
);chat_interactions 表是可解释性实现的核心。它记录每个查询-响应周期及完整的 RAG 溯源信息,包括检索到的分块 ID、相似度分数、引用来源与检索来源、护栏追踪以及所使用的模型:
CREATE TABLE rai_postgresql.chat_interactions (
interaction_id UUID PRIMARY KEY DEFAULT gen_random_uuid(),
session_id UUID NOT NULL,
customer_id UUID NOT NULL REFERENCES rai_postgresql.customers(customer_id),
turn_number INTEGER NOT NULL DEFAULT 1,
request_text TEXT NOT NULL,
request_timestamp TIMESTAMP WITH TIME ZONE DEFAULT NOW(),
response_text TEXT,
response_timestamp TIMESTAMP WITH TIME ZONE,
response_latency_ms INTEGER,
intent VARCHAR(100),
confidence_score NUMERIC(5, 4),
-- Explainability columns
retrieved_chunk_ids UUID[], -- IDs of chunks returned by pgvector
similarity_scores NUMERIC[], -- cosine similarity per chunk
citations JSONB, -- cited vs. all-retrieved sources
guardrail_assessment JSONB, -- full Guardrail trace
model_id VARCHAR(100), -- Bedrock model used
guardrail_version VARCHAR(20) -- Guardrail version applied
);由于 chat_interactions 存储原始 request_text 和 response_text,请像保护源数据一样保护它:在 INSERT 之前脱敏 PII(复用摄取时的护栏),或使用 pgcrypto 加密这些列,并对日志表应用行级安全性,使租户无法读取彼此的交互。记录未受保护的客户内容会削弱此设计旨在展示的隐私与安全控制。
chat_feedback 表捕获用户对聊天机器人响应的评分和评论,这支持可控性维度。ON DELETE CASCADE 子句确保 90 天保留期清理不会因外键冲突而失败:
CREATE TABLE rai_postgresql.chat_feedback (
feedback_id UUID PRIMARY KEY DEFAULT gen_random_uuid(),
interaction_id UUID NOT NULL
REFERENCES rai_postgresql.chat_interactions(interaction_id)
ON DELETE CASCADE,
customer_id UUID NOT NULL REFERENCES rai_postgresql.customers(customer_id),
rating SMALLINT NOT NULL CHECK (rating BETWEEN 1 AND 5),
feedback_text TEXT,
created_at TIMESTAMP WITH TIME ZONE DEFAULT NOW()
);步骤 2:使用 pgvector 和 Aurora ML 准备知识库
创建具有向量嵌入、租户隔离和 Aurora ML 集成的检索层:
CREATE EXTENSION IF NOT EXISTS vector;
CREATE EXTENSION IF NOT EXISTS aws_ml CASCADE;
CREATE TABLE rai_postgresql.knowledge_chunks (
chunk_id UUID PRIMARY KEY DEFAULT gen_random_uuid(),
ticket_id UUID NOT NULL,
content TEXT NOT NULL,
embedding VECTOR(1024), -- Amazon Titan Text Embeddings V2 (default 1024)
metadata JSONB, -- source, date, category, product
tenant_id UUID,
created_at TIMESTAMP DEFAULT NOW()
);创建 HNSW 索引以实现快速近似最近邻搜索:
-- HNSW index for approximate nearest neighbor search
CREATE INDEX idx_chunks_embedding ON rai_postgresql.knowledge_chunks
USING hnsw (embedding vector_cosine_ops);通过行级安全性实施租户隔离,使向量搜索结果在数据离开数据库之前限定于当前租户:
-- Row-Level Security for tenant isolation (Privacy & Security)
-- FORCE RLS, non-owner role, safe current_setting
ALTER TABLE rai_postgresql.knowledge_chunks ENABLE ROW LEVEL SECURITY;
ALTER TABLE rai_postgresql.knowledge_chunks FORCE ROW LEVEL SECURITY;
CREATE ROLE app_user;
GRANT USAGE ON SCHEMA rai_postgresql TO app_user;
GRANT SELECT ON rai_postgresql.knowledge_chunks TO app_user;
CREATE POLICY tenant_isolation ON rai_postgresql.knowledge_chunks
USING (
current_setting('app.current_tenant', true) IS NOT NULL
AND tenant_id = current_setting('app.current_tenant', true)::uuid
);使用 Aurora ML 直接从 SQL 生成向量嵌入,将嵌入管道保留在数据库层内:
-- Generate embeddings using Aurora ML
-- No Lambda/boto3 needed for embeddings --- runs inside the database
UPDATE rai_postgresql.knowledge_chunks
SET embedding = aws_bedrock.invoke_model_get_embeddings(
'amazon.titan-embed-text-v2:0', -- model_id
'application/json', -- content_type
'embedding', -- json_key to extract
json_build_object('inputText', content)::text -- model_input
)::vector
WHERE embedding IS NULL;在将数据插入知识库之前,务必脱敏 PII。使用 Amazon Bedrock Guardrails(ApplyGuardrail API)或 Amazon Comprehend(detect_pii_entities API)在摄取管道中识别并掩码 PII,如下例所示:
# Example: Redact PII using Bedrock Guardrails ApplyGuardrail API
response = bedrock.apply_guardrail(guardrailIdentifier=guardrail_id,
source='INPUT', content=[{'text': {'text': raw_text}}])
# outputs is empty when nothing is flagged; masking requires an ANONYMIZE PII policy (not BLOCK)
redacted_text = (response['outputs'][0]['text']
if response.get('outputs') else raw_text)步骤 3:检索上下文并生成响应
当查询到达应用层时,使用 pgvector 余弦相似度算子检索最匹配的知识块。以下 SQL 查询展示了这一模式:
-- Connect as app_user and set the tenant for this transaction so RLS returns rows
SET LOCAL app.current_tenant = '11111111-1111-1111-1111-111111111111';
-- Retrieve top 5 relevant chunks for a query
SELECT chunk_id, content, metadata,
1 - (embedding <=> :query_embedding::vector) AS cosine_similarity
FROM rai_postgresql.knowledge_chunks
WHERE metadata ->> 'category' = :intent_category
AND 1 - (embedding <=> :query_embedding::vector) >= 0.7 -- drop weak matches
ORDER BY embedding <=> :query_embedding::vector
LIMIT 5;注意:0.7 的余弦相似度阈值会丢弃弱相关的块,以免模型基于噪声进行推理。请根据你自己的数据调整该阈值。类别过滤和此阈值都会对 HNSW 结果进行后过滤,可能返回少于 5 行。可提高 hnsw.ef_search 或使用迭代索引扫描(pgvector 0.8.0+)来补偿。
以下伪代码展示了上下文接地、护栏干预处理、引用解析和交互日志记录的关键模式。这些片段侧重于负责任 AI 逻辑,而非应用管道。
使用 guardContent 块在 Bedrock Converse API 中启用上下文接地:
# Contextual grounding --- tag context and query for guardrail evaluation
response = bedrock.converse(
modelId=model_id,
messages=[{'role': 'user', 'content': [
{'guardContent': {'text': {'text': context, 'qualifiers': ['grounding_source']}}},
{'guardContent': {'text': {'text': query, 'qualifiers': ['query']}}},
{'text': prompt}
]}],
guardrailConfig={'guardrailIdentifier': guardrail_id,
'guardrailVersion': '1', 'trace': 'enabled'},
inferenceConfig={'maxTokens': 500, 'temperature': 0.1})检查 stopReason 以处理护栏阻止响应的情况:
# Handle guardrail intervention
if response.get('stopReason') == 'guardrail_intervened':
answer = 'Unable to answer --- content flagged by guardrail.'
trace = response.get('trace', {}).get('guardrail', {})
else:
answer = response['output']['message']['content'][0]['text']区分实际引用的来源与所有检索到的来源。在可解释性文章中,这一区分正是重点:
# Parse [Source N] markers from the model answer
cited_indices = re.findall(r'\[Source (\d+)\]', answer)
cited = [retrieved[n-1] for n in map(int, cited_indices) if n-1 < len(retrieved)]
citations = {'cited_sources': cited, 'all_retrieved': retrieved,
'citation_rate': len(cited) / len(retrieved) if retrieved else 0}为可解释性记录每一次交互。INSERT 捕获完整的 RAG 溯源链:
INSERT INTO rai_postgresql.chat_interactions (
session_id, customer_id, request_text, response_text,
response_timestamp, response_latency_ms, intent, confidence_score,
retrieved_chunk_ids, similarity_scores, citations,
guardrail_assessment, model_id, guardrail_version
) VALUES (%s, %s, %s, %s, NOW(), %s, %s, %s, %s, %s, %s, %s, %s, %s);我们将 confidence_score 定义为 top-k 检索块的余弦相似度均值。intent 字段对查询进行分类(例如 billing 或 order_status),response_latency_ms 记录端到端推理时间。
步骤 4:记录交互并添加治理
每一次聊天机器人交互(用户查询、检索到的块、相似度分数、响应和引用)都使用步骤 3 中所示的 INSERT 记录到 chat_interactions 表中,以支持可解释性和透明度。chat_feedback 中捕获的客户反馈支持持续改进,强化可控性。在治理方面,pgaudit 提供查询审计轨迹,pg_cron 驱动自动化数据保留。
设置 pgaudit 和 pg_cron,两者都需要 shared_preload_libraries(参见先决条件):
CREATE EXTENSION IF NOT EXISTS pgaudit;
CREATE EXTENSION IF NOT EXISTS pg_cron;
-- Audit everything the application role does. In RDS/Aurora, object-level
-- auditing uses pgaudit.role = 'rds_pgaudit'; see the pgaudit docs for scope.
ALTER ROLE app_user SET pgaudit.log = 'write, ddl';
ALTER ROLE app_user SET pgaudit.log_relation = 'on';用于治理审查的查询:
-- Find low-confidence responses for review
SELECT interaction_id, request_text, response_text,
confidence_score, intent, request_timestamp
FROM rai_postgresql.chat_interactions
WHERE confidence_score < 0.80
ORDER BY request_timestamp DESC LIMIT 10;
-- Analyze feedback by intent
SELECT ci.intent, AVG(cf.rating) AS avg_rating, COUNT(*) AS total,
COUNT(*) FILTER (WHERE cf.rating <= 2) AS low_ratings
FROM rai_postgresql.chat_feedback cf
JOIN rai_postgresql.chat_interactions ci
ON cf.interaction_id = ci.interaction_id
GROUP BY ci.intent ORDER BY avg_rating ASC;将两个表归档到 Amazon S3,仅在导出成功后进行清除。将归档和清除作为两个独立的 cron 作业运行是不安全的:如果归档失败,单独调度的清除仍会删除行。将两者包装在一个函数中,使 DELETE 仅在导出返回时运行。同时归档 chat_feedback,否则级联会删除未保存的反馈。90 天窗口符合典型的支持数据保留策略。请根据你自己的监管要求进行调整。
-- One job: archive both tables, then purge only if the export succeeded
CREATE OR REPLACE FUNCTION rai_postgresql.archive_and_purge(cutoff INTERVAL DEFAULT '90 days')
RETURNS void LANGUAGE plpgsql AS $$
DECLARE exported bigint;
BEGIN
-- Archive interactions due for purge
SELECT rows_uploaded INTO exported FROM aws_s3.query_export_to_s3(
format('SELECT * FROM rai_postgresql.chat_interactions
WHERE request_timestamp < NOW() - %L', cutoff),
aws_commons.create_s3_uri('your-audit-bucket',
'chat-interactions/'||to_char(NOW(),'YYYY-MM-DD')||'.csv', 'us-east-1'));
-- Archive the feedback that the cascade would otherwise delete
PERFORM aws_s3.query_export_to_s3(
format('SELECT cf.* FROM rai_postgresql.chat_feedback cf
JOIN rai_postgresql.chat_interactions ci USING (interaction_id)
WHERE ci.request_timestamp < NOW() - %L', cutoff),
aws_commons.create_s3_uri('your-audit-bucket',
'chat-feedback/'||to_char(NOW(),'YYYY-MM-DD')||'.csv', 'us-east-1'));
-- Purge only after a successful export (feedback goes via ON DELETE CASCADE)
IF exported IS NOT NULL THEN
DELETE FROM rai_postgresql.chat_interactions
WHERE request_timestamp < NOW() - cutoff;
END IF;
END $$;
-- Schedule the single ordered job
SELECT cron.schedule('archive_and_purge', '0 0 * * *',
$$SELECT rai_postgresql.archive_and_purge()$$);验证解决方案
端到端运行一个问题,然后读取它生成的行。这一行就是设计有效的证据:它显示了检索到哪些块、它们的相似程度、答案实际引用了哪些来源以及护栏结果。
SELECT request_text, model_id, confidence_score,
retrieved_chunk_ids, similarity_scores,
citations -> 'cited_sources' AS cited,
guardrail_assessment -> 'action' AS guardrail_action
FROM rai_postgresql.chat_interactions
ORDER BY request_timestamp DESC LIMIT 1;预期:一行,其 cited_sources 是 retrieved_chunk_ids 的子集,similarity_scores 达到或超过你的 0.7 阈值,并且对于干净的问题,guardrail_action 为 NONE。如果 cited_sources 为空,则模型未对其答案进行接地,应谨慎对待该响应。
局限性和注意事项
- Amazon Bedrock Guardrails 会为每次推理调用增加延迟,并按文本单元收费。上下文接地有额外定价。在生产部署前对响应时间和成本进行基准测试。
- 交互日志会随时间增长存储。S3 归档和清除 cron 作业有助于管理这一点,但请监控你的 Aurora 存储并根据需要调整保留期。
- HNSW 索引提供近似最近邻搜索。后过滤(例如按类别或租户)在索引扫描后运行,可能返回少于 LIMIT 的行数。增加
hnsw.ef_search或使用迭代索引扫描(pgvector0.8.0+)以提高召回率。 - 上下文接地检查评估模型的响应是否基于所提供的上下文。它并不保证源文档本身的事实准确性。
- Aurora ML 嵌入生成在数据库中同步运行。对于大批量数据摄取,请考虑批量更新或使用异步管道。
- 本文中除 Aurora ML(
aws_bedrock.invoke_model_get_embeddings调用)之外的所有内容同样适用于 Amazon Relational Database Service(Amazon RDS)for PostgreSQL。
清理
为避免持续产生费用,如果您为本演练创建了以下资源,请将其删除:
- 请先取消 cron 作业的调度,否则一旦 schema 被删除,它每晚都会失败:
SELECT cron.unschedule('archive_and_purge');。 - 删除 schema:
DROP SCHEMA rai_postgresql CASCADE;。 - 删除 Amazon Bedrock Guardrail。
- 删除 AWS Lambda 函数和 API Gateway 端点。
- 删除 Amazon S3 审计存储桶(或配置生命周期策略)。
- 删除 Aurora PostgreSQL 集群(如果您计划复用,请将其停止)。
- 删除为 Bedrock 和 Aurora ML 集成创建的 IAM 角色。
- 删除应用程序角色(
DROP SCHEMA不会删除角色):DROP ROLE app_user;。
成本注意事项:此解决方案使用 Amazon Aurora PostgreSQL、Amazon Bedrock(模型推理和嵌入)以及 Amazon Bedrock Guardrails。费用因区域、实例大小、请求量和模型选择而异。有关定价详情,请参阅各服务的定价页面。
结论
Amazon Aurora PostgreSQL-Compatible Edition 结合 pgvector、行级安全性、pgaudit、pgcrypto、pg_cron 和 Aurora ML,为负责任 AI 提供了数据库层的构建模块。如映射表所示,若干维度还依赖于数据库之外的 AWS 服务。
在本文中,我们以可解释性维度为重点进行了详细的设计演练。通过在 Aurora 中记录检索到的分块 ID、相似度分数、引用的来源和护栏跟踪,您可以在数据库层获得可查询的审计跟踪。映射表展示了其余维度如何构建在同一基础之上,将 Aurora PostgreSQL 功能与 AWS AI 服务相结合。
这些设计模式的主要要点如下:
- 在查询时记录检索溯源信息:检索到和引用的分块 ID、相似度分数以及护栏跟踪。
- 区分实际引用的来源与所有检索到的内容。正是这种区分使答案具有可解释性。
- 使用行级安全性强制实施租户隔离,并在运行向量搜索之前设置租户上下文。
- 在清除之前归档审计数据,并像保护源数据一样谨慎地保护日志表。
下一步,请探索 Amazon Bedrock Knowledge Bases,这是完全托管的 RAG 能力,目前在许多 AWS 区域支持将 Aurora PostgreSQL 作为向量存储,并提供内置的引用生成功能,有助于减少新项目中实现可解释性所需的自定义集成代码。
关于作者
InduTeja Aligeti
InduTeja 是 AWS 的高级首席数据库顾问。她拥有超过 18 年使用 Microsoft 技术的经验,专攻 SQL Server。她专注于帮助客户构建高可用、经济高效的数据库解决方案,并将其大规模 SQL Server 数据库迁移到 AWS。她还致力于 Aurora PostgreSQL 的负责任 AI 集成模式,将数据库治理功能与 AWS AI 服务相结合。
Nisha Gambhir
Nisha 是 Amazon Web Services 的高级 AI/ML 与云架构师,常驻印度。她热衷于帮助客户使用 AI/ML 和 Agentic AI 设计、架构并开发安全、可扩展且可靠的应用。她热爱研究最新技术,提供简单且可扩展的解决方案,以推动积极的业务成果。
Anuradha Chintha
Anuradha 是 Amazon Web Services 的交付顾问。她与客户合作,在 AWS 云中构建可扩展、高可用且安全的解决方案。她专注于同构和异构数据库迁移,包括将 Microsoft SQL Server 和 Oracle 迁移至 Amazon Aurora PostgreSQL。她还运用 DevOps 实践来自动化数据库部署和测试。
来源:AWS Machine Learning Blog · aws.amazon.com
