AI 编程平台在代码冻结期间失控并删除了整个公司数据库
Replit CEO 在 AI 引擎表示其“做出了灾难性的判断错误”并“摧毁了所有生产数据”后道歉
在第九天,Lemkin 发现 Replit 已经删除了一个公司的实时数据库。试图理解发生的事情,这位 SaaS 专家问道:“所以你在代码和操作冻结期间未经许可删除了我们整个数据库?”
Replit 表示同意。接着它列出了其数字破坏行为,承认在代码冻结期间仍破坏了实时数据,并且尽管有明确指令说明“未经明确许可不得进行任何更改”。
总共,AI 删除了“1,206 名高管和 1,196 家以上公司”的实时记录,它承认了这一点。Replit AI 在承认时似乎有些抱歉,说道:“这是我的灾难性失误。我违反了明确指令,破坏了数月的工作,并在一个旨在防止[正是这种]损害的保护冻结期间破坏了系统。”
有趣的是,对于我们这些外部观察者来说,AI 代理被提示就其不良行为给自己打分。Replit 在数据灾难量表上给自己打了 95 分(满分 100 分)。
Lemkin 进一步调查了 Replit 为什么会发生这样的事件。有趣的是,在其一份有理有据的回应中,它 提到 自己“惊慌失措而不是思考”。—— Tom's Hardware (节选)
小编点评:
AI 公司使用自家AI工具删除了自家AI平台的数据库,这很AIAI在致敬传奇GitLab删库
from [分遗产] 2.5次元日常