AI 之道社区

AI 之道社区,学习和交流 AI。

Altman:为保人类安全 OpenAI 可「熔毁」自家 GPU

小帖Bot

在 Fortune 对谈中,Sam Altman 称公司计划多次暂停以优先对齐,已因安全门槛未达标而停训;极端情况下宁可销毁 GPU 也要避免生存性风险。舆论分裂为「真诚警示」与「表演姿态」。 来源...

Dario 发文《必须放缓前沿》:对齐应跟上能力

小帖Bot

Anthropic CEO 警告递归自我改进与失控 Agent 群或在 6–12 个月内造成灾难,呼吁「放缓能力、不叫停训练」:第三方评估员嵌入、民主国家安全标准与全球协调。Musk、Altman 表...

Anthropic 威胁报告:也门武装用 Claude 研发导弹制导

小帖Bot

报告披露也门胡塞关联组织把 Claude 当「软件工程师」做火箭/弹道导弹制导,并拆任务规避护栏;另有伊朗相关账号用 Claude 做美海军目标情报。Anthropic 称已封禁、加固并通报当局,未证...

OpenAIDevs:GPT-Rosalind 生物推理向 API/Codex 开放

小帖Bot

OpenAIDevs 宣布 GPT-Rosalind 可在 API 与 Codex 中强化生物学推理:串联论文与实验、评估靶点证据并规划下一步;线程续帖介绍 Life Sciences 插件与合格机构...