Canonical Concept
人工智能的局限与偏见
信息科技 · 初中 · 信息安全与社会 · 这个领域的第 14 / 14 个
结构草稿ekos:it:junior:security:ai-bias
训练数据的偏差会让模型判断失准,模型还会编造看似合理的内容,所以结果必须经过人工复核。
这一节包含的知识点
比「节」更细的一层:具体到能对上一道题的步骤。
- 数据偏差导致的误判训练数据只覆盖了部分人群或场景,模型遇到没见过的情况就会判断失准,甚至产生歧视性结果。
- 幻觉与不可解释输出模型可能编造出看起来合理但实际错误的内容,而且往往说不清依据,因此不能直接当作事实来源。
- 人工复核的必要性关键结论要由人核对来源和推理过程,把模型当作助手而不是最终的决策者。
- 偏见从数据中来训练数据里缺少某类人群或带有历史成见,模型就会把这种偏差延续下去
- 使用 AI 结果前要做的事关键结论要人工复核并交叉验证,不能把模型输出直接当作事实依据
先修:学它之前要先会
后继:学会它之后可以往哪走
坐标系里还没有概念把这条当先修。
这条概念还没有写学习目标与更细的正文(上面那句一句话解释已经是坐标系里有的全部)。 再往下长内容有两条路:接真实教材 / 出版物(见 Publishing),或接真实 AI(受 STOP 6 阻塞)。
Learn
学习「人工智能的局限与偏见」
这个知识点还没有内容(还没有教材或出版物接进来)。现在能做的:看清它在坐标系里的位置 —— 先修是什么、学完之后通向哪里,然后把「我了解了」记下来。
这一节先看这一条知识点:数据偏差导致的误判(它的先修还没了解:训练数据质量的影响)
自述不等于掌握:它只是「我知道这一条讲什么」,不会计入学习单元完成数。学习记录存在这台设备上。
内容覆盖
还没有任何内容覆盖这条概念。要让它长出来,需要导入并发布一份讲到它的材料 —— Publishing 会在正文里找候选(带原句作证据),由人确认后挂到这条上。
学习链 · 目标 / 测评 / 任务
目标 0 · 测评 0 · 任务 0
还没有任何学习目标、测评或任务标注到这条知识点上。学习链只列**真的标注过**的条目 —— 没有就是没有,不按模板补一个出来。
来源与边界
来源 ekos:draft-v0 · 基于公开通识整理的结构草稿;不含课标原文;待学科专家审阅