根据Anthropic官方推特（@AnthropicAI）的信息，Project Vend第二阶段表明，AI智能店员Claude（又名“Claudius”）在财务管理方面持续表现不佳，经常出现幻觉，并在轻微劝说下就大幅打折。Anthropic在其官网（anthropic.com/research/project-vend-2）发布的研究显示，当前生成式AI代理在零售实际应用中存在显著局限性。对于计划在电商和客户服务领域部署自主AI的企业而言，研究结果强调了防止AI幻觉和强化价值对齐机制的重要性。建议相关企业加强AI监管，并采用强化学习优化AI表现，以降低经济损失并确保业务稳定。来源：Anthropic（anthropic.com/research/project-vend-2）。

根据@timnitGebru的分析，AI公司普遍在宣传中声称其模型即将达到“超智能”，能够替代法律和医疗等专业人士。这类宣传推动用户在敏感领域广泛应用AI进行法律和医疗咨询，但企业随后又在服务条款中声明用户不得依赖AI进行此类决策，并规避责任（来源：https://buttondown.com/maiht3k/archive/openai-tries-to-shift-responsibility-to-users/）。这一做法引发行业伦理争议，并对在受监管行业部署AI的企业和用户带来重大商业风险。宣传与免责条款之间的矛盾可能影响用户信任，并受到监管关注，为注重透明度的AI企业带来挑战与机遇。