印象中,这可能是继Ilya离开OpenAI、创办SSI以来,AI安全对齐讨论声量最大的一次。 昨天,研究员 Jacob Coxon 发帖宣布离职,指责前老东家OpenAI和Anthropic两家公司正一路冲向能够自我改进的超级智能,拿所有人的生命冒险。 值得一提的是,Jacob Coxon加入Anthropic其实只有短短几个月,他几乎是放弃了这家明星AI公司未来上市可能带来的巨额股权收益,也要选择离开。 也正因如此,当这样一位研究员公开炮轰两家头部AI公司“加速过头”,这场原本更多局限在AI安全圈内部的争论,很快被推向了更大的公众视野。 截至目前,该帖