查核结果：错误
一分钟完读：
近日，社媒平台上有人称美国曾在联合国提议将电信诈骗分子列为恐怖分子，但被中国否决，并附上一张人与生成式AI机器人对话的内容截图作为证据。
亚洲事实查核实验室查阅联合国会议记录，确认迄今并未有任何国家正式提出要将电信诈骗分子列为恐怖分子，中国也没有过否决该提议的记录。此外，该截图确实与字节跳动旗下AI工具“豆包”形式相同，但以图片鉴识工具Forensically检测，可以发现对话有被变造的痕迹。
深度分析：
近期，中国艺人王星从缅甸诈骗园区获救，缅甸电信诈骗问题再次受到讨论。X上有中国网友称，以“美国提议电诈分子为恐怖分子，被谁否决了？”询问字节跳动旗下AI“豆包”，结果是被中国否决。另外，留言处有网友称，他以同样问题问了OpenAI开发的ChatGPT共3次，ChatGPT才说是中国和俄国反对。
美国是否曾提议将电诈分子列入恐怖分子？
亚洲事实查核实验室（以下简称AFCL）以关键字查询，发现中国社群媒体上确实传播“美国提案将缅甸诈骗园区列为恐怖组织”的说法，但以关键字查询，近期美国官方发表与缅甸有关的言论，是美国国务员于2025年1月6日发布的新闻稿，主题在谴责缅甸政府违反人道的行为，当中并未提到有关诈骗与恐怖分子相关的言论。AFCL以电邮向美国国务院查证，至截稿前会获回应。
而查询联合国安理会2024年至今的会议记录，其中也并未有任何国家提案将电诈分子列为恐怖分子。
网传“豆包”的对话截图是否真实？
首先，AFCL以抖音上的展示影片，确认网传截图和字节跳动于2024年正式推出的AI工具“豆包”格式相同。但进一步利用图片鉴识工具Forensically 检测，网传截图在“主成份分析（Principal Component Analysis，PCA）”这项参数上，显示有变造痕迹，高度可能经过重制。
AFCL复制实验，在“豆包”上输入相同的问题：“美国提议电诈分子为恐怖分子，被谁否决了？”。结果显示“目前没有确切消息证实美国有过这样的提议”，也不存在提案被否决的情形。
生成式AI是否可信？
台湾中央研究院资讯科学研究所研究员王新民依据字节跳动公开的“豆包算法及模型备案公示说明”向AFCL解释，豆包与目前市面上常见的大型语言模型（LLM）的原理相同，皆是使用transformer模型，以文字接龙的概念生成对话。
AFCL过去曾针对大型语言模型的原理，推出专题报道，说明AI给出的答案未必可信。以ChatGPT为例，GPT仰赖大量的网路资料学习来完成“文字接龙”，例如使用者给出“今天”，GPT便被训练要接上“是”; 当看见“今天是”便要学会接上“星期”，循序渐进的完成“今天是星期三”的完整句子。GPT采用文字接龙，但接续的文字有许多种组合的可能，因此模型会针对这些组合列出机率，将爬梳所有文本后较高机率的文字接龙提供给使用者，而非给出正确答案。
过去AFCL亦曾探讨语言模型的偏见，当时台湾人工智慧实验室创办人杜奕瑾告诉AFCL，人工智慧在做语言模型训练时，其实会把文本内容偏见及思想学习起来，而偏见的来源即是收集来的语料库以及人工标注，“用哪个市场训练，就是那个地方文化思想的输出。 ”
AFCL亦发现，在与“豆包”的对答之中，其引用的参考资料皆为中国网站，王新民推测，如果仅出现中国网站，这个生成式AI在训练时大概率仅使用中国网站的资料。
王新民亦提到，在台湾也有仅用台湾资料训练的模型“TAIDE”。TAIDE模型目的就是要打造一个台湾在地化的AI对话引擎，促进AI模型更精准的理解与运用繁体中文，其训练资料有被公开披露。
亚洲事实查核实验室（Asia Fact Check Lab）针对当今复杂媒体环境以及新兴传播生态而成立。我们本于新闻专业主义，提供专业查核报告及与信息环境相关的传播观察、深度报道，帮助读者对公共议题获得多元而全面的认识。
读者若对任何媒体及社交平台传播的信息有疑问，欢迎以电邮afcl@rfa.org寄给亚洲事实查核实验室，由我们为您查证核实。亚洲事实查核实验室更详细的介绍请参考本文。
我们另有X、脸书、IG频道，欢迎读者追踪、分享、转发。 X这边请进：中文@asiafactcheckcn;英语：@AFCL_eng、FB在这里、IG也别忘了。