文章摘要
这篇文章探讨了未来技术发展可能带来的虚假信息泛滥问题,指出随着AI等技术的进步,新型职业将围绕信息验证和真实性鉴定产生。作者以系列文章形式分析技术动态、文化影响和信息生态变化,暗示未来社会可能需要专门应对"谎言经济"的新工种。
文章总结
未来职业新图景:人机边界上的新兴角色
随着机器学习(ML)技术的广泛应用,一系列新型职业将在人机交互的边界涌现。本文探讨了六种可能成为主流的未来职业,揭示了技术发展对社会分工的深刻影响。
1. 咒术师(Incanters)
大型语言模型(LLM)具有独特的"性格"——威胁、谎称奖金或反复强调指令可能提升其表现。专业"咒术师"将精通如何通过精心设计的提示词操控模型输出,甚至可能取代部分程序员直接编写代码的工作。
2. 流程工程师(Process Engineers)
针对LLM输出的不确定性,法律等行业需要建立质量控制流程。例如在律所,流程工程师可能设计"故意植入可识别错误"的校验机制,通过多级审核确保文件可靠性,并开发配套的溯源追踪系统。
3. 统计工程师(Statistical Engineers)
这类专家致力于量化和管理ML系统的变异因素。例如解决选项排序对LLM决策的影响(类似心理测量学方法),或处理模型在不同语言/数据类型的表现差异,需要深厚的领域知识。
4. 模型训练师(Model Trainers)
面对互联网信息污染,训练师需筛选优质语料。OpenAI等公司可能雇佣各领域专家(如加洛林文艺复兴学者)参与模型训练,包括编写基准材料、评估输出质量。目前已有平台雇佣大量专业人士训练AI,形成"人类专业知识的大规模收割"。
5. 人肉盾牌(Meat Shields)
当AI系统出错时,需要人类承担法律责任和社会谴责。无论是Meta的内容审核员、自动驾驶事故的司机,还是律所替AI背锅的律师,这些"盾牌"角色既提供社会情绪出口,也构成责任体系的最后一环。
6. 占卜师(Haruspices)
模型行为分析师将调查AI事故原因,如医疗诊断中的种族偏见、无人机误炸等。他们需要解析模型的输入/输出/内部状态,工作形式包括个案深度调查或宏观统计分析,服务对象涵盖企业、法院、媒体等多方。
技术社会的深层矛盾
文章揭示了AI时代的悖论:人类既在训练取代自己的工具,又不得不为机器错误承担责任。作者以《芝加哥太阳报》AI生成虚假书单事件为例,展现责任链条的模糊性。最后尖锐指出:无论何种社会制度,核危机与环境灾难的阴影始终存在——这或许才是技术狂欢背后真正的叩问。
(注:原文中的导航菜单、评论互动等非核心内容已精简,保留主要观点和典型案例)
评论总结
以下是评论内容的总结:
对文章风格的批评
- 评论1:反对将人类称为"肉"的表述,认为有反社会倾向
"Is there a way back to calling human beings human beings and not 'meat'?" - 评论5:认为文章带有"魔法思维"倾向,结合了作者之前的巫术美学和进步劳工政治
"it's a bit on the magical thinking end"
- 评论1:反对将人类称为"肉"的表述,认为有反社会倾向
关于英国访问限制的重复讨论
- 评论4:指出连续9天都出现相同讨论模式(英国不可访问、存档链接等),建议制定新规则
"Do we really need to see this every single time?" - 评论3:询问为何在英国不可访问
"Unavailable Due to the UK Online Safety Act"
- 评论4:指出连续9天都出现相同讨论模式(英国不可访问、存档链接等),建议制定新规则
对AI/LLM影响就业的看法
乐观观点:
- 评论7:工程师对AI辅助编程感到兴奋,认为可以专注于核心工程思维
"now I just think about an implementation and it then exist" - 评论6:认为ML将成为"常规技术",关键看任务的可结构化程度和问责制
"how at-risk a job is in the LLM era comes down to..."
- 评论7:工程师对AI辅助编程感到兴奋,认为可以专注于核心工程思维
悲观观点:
- 评论8:认为AI不同于以往技术,最终将取代人类
"We're literally trying to build an intelligence to replace us" - 评论12:认为当前是"非理性繁荣",理性终将回归
"we are in the times of irrational exuberance"
- 评论8:认为AI不同于以往技术,最终将取代人类
关于人类责任的观点
- 评论9:强调LLM无法担责,必须有人类参与决策
"Someone needs to be involved in decision making" - 评论10:认为责任永远在人类而非机器
"Humans will be held accountable, not machines"
- 评论9:强调LLM无法担责,必须有人类参与决策
对文章内容的评价
- 评论13:认为职业预测合理,符合历史发展规律
"history shows us this is indeed what happens" - 评论11:认为预测不够变革性,缺少AI催生的全新行业
"Still missing are the jobs enabled by 'AI'"
- 评论13:认为职业预测合理,符合历史发展规律
技术实施挑战
- 评论14:指出AI开发面临速度与质量的权衡
"choose between going slow vs making a huge blunder later"
- 评论14:指出AI开发面临速度与质量的权衡