科学家发出警告:AI可在6小时内提出40000种潜在( 三 )


因此 , 这就是研究人员真正考虑将这篇论文发表出来的原因:对于这种类型的滥用来说 , 它的门槛实在是太低了 。
Urbina在论文中表示:“我们仍然跨越了一个灰色的道德界限 , 证明有可能设计出虚拟的潜在有毒分子 , 而不需要太多的努力、时间或计算资源 。虽然我们可以轻易地删除我们创造的成千上万的分子 , 但我们不能删除如何重新创造它们的知识 。”
Urbina表示 , 这是一个非常不寻常的话题 , 他们想把这些真正的信息拿出来 , 去真正的谈论它 。与此同时 , 不希望将其落入非法者之手 。
但他明确表示 , 作为科学家 , 应该注意发布的内容必须是负责任地完成的 。
除此之外 , Urbina表示 , 目前所做的确实很容易被复制 。因为其中很多东西都是开源的——科学的共享 , 数据的共享 , 模型的共享 。
Urbina殷切希望更多的研究人员承认并意识到潜在的滥用 。
当你开始在化学领域工作时 , 你确实会被告知化学滥用的危害 , 你有责任确保你尽可能地避免这种情况 。而在ML中 , 与之相反 , 没有任何关于滥用该技术的指导 。
“我们只是希望更多的研究人员承认并意识到潜在的滥用” , Urbina说道 。
【科学家发出警告:AI可在6小时内提出40000种潜在】考虑到模型的性能越来越好 , 所以将这种意识公开是非常有必要的 , 可以真正地帮助人们去注意这个问题:至少在更广泛的圈子里被讨论过 , 至少可以成为研究人员所关注的点 。