为什么“快速失败”是人工智能的灾难

文章 (11) 2021-06-23 21:55:31

与快速失败相反的是软件开发的“瀑布式”方法,在软件与真实客户进行测试之前,需要在前期投入大量时间——需求分析、设计和场景规划。

当谈到人工智能的新兴潜力时,我相信快速失败是灾难的根源。

人工智能将继续存在。
我们周围有许多不同类型的人工智能软件。如今,大多数 AI 的权限都很小。例如,亚马逊的软件会推荐您可能喜欢购买的东西,但它实际上并没有代表您购买这些东西——目前还没有。Spotify 的软件会决定为您创建播放列表,但如果一首歌不适合您的口味,后果将是良性的。Google 的软件会决定哪些网站与您的搜索词最相关,但不会决定您将访问哪个网站。在所有这些情况下,快速失败是可以的。使用会产生更多数据,从而改进算法。

但情报软件开始做出代表更高风险的独立决策。失败的风险太大而不能掉以轻心,因为后果可能是不可逆转的或无处不在的。

THE END

发表评论