这些小型初创公司正在应对最大的人工智能挑战
戈尔曼表示,Aligned AI 的核心重点是生成人工智能,尽管其大部分工作都是专有的。 系统对概念有更好的理解。 这是它们继续落后于人类的领域。 戈尔曼说,“在某些方面,[大型语言模型]似乎确实有很多看起来像人类概念的东西,但它们非常脆弱。”很容易欺骗聊天机器人做一些不应该做的事情。 系统不应该以任何其他方式伤害人类。 “对齐问题”是关于如何对齐人工智能的想法。 对齐人工智能的名字来源于“对齐问题”的想法——我们如何对齐人工智能。 使用会产生有毒内容的聊天机器人是有争议的。 人工智能 是一个有争议的话题。 许多人工智能 “安全”经常被认为是人工智能工作人员关注的焦点。
联合人工智能是如何利用研究来解决这两种风险的一个很好的例子。 给予人工智能 我们都应该愿意为人工智能提供帮助。 我们都希望系统能够更好地理解概念。
Aligned AI、Xayn 和其他较小的公司正在人工智能领域产生许多有前途的想法。 生态系统。 尽管 OpenAI、微软和谷歌是市场上最大的参与者,但它们可能并不是所有用例的最佳选择。
来源和详细信息:
https://fortune.com/2023/05/23/small-startups-making-headway-on-generative-a-i-s-biggest-challenges-xayn-aligned-ai-eye-on-ai/
