$("body").append("")

探索FlowGPT:创新的天地还是道德的边界

497次阅读
没有评论

概要:
FlowGPT是一个开放AI应用程序的新天地,提供了更广泛的选择和更大的自由度。然而,这种自由也带来了道德和安全的隐患,许多应用程序可能导致伦理问题和潜在的危害。尽管如此,投资者对其前景持乐观态度,认为它将在GenAI领域发挥重要作用。


探索FlowGPT:创新的天地还是道德的边界

近几个月,OpenAI推出了GPT Store,一个市场,人们可以在其中创建和列出定制执行多项任务的AI聊天机器人(例如编码、回答问答题等)。GPT Store无疑是强大的。但是使用它需要使用OpenAI的模型,而不是其他的,这一点一些聊天机器人的创建者和用户持反对态度。

因此,一些初创公司正在创建替代品。

其中之一,FlowGPT,旨在成为GenAI模型的“应用商店”,例如谷歌的Gemini、Anthropic的Claude、Meta的Llama 2和OpenAI的DALL-E 3,以及这些模型的前端体验(例如文本字段和提示建议)。通过FlowGPT,用户可以构建自己的GenAI应用程序,并将它们公开可用,从中获得贡献的小费。

Jay Dang,一位加州大学伯克利分校的计算机科学辍学生,和Lifan Wang,亚马逊前工程经理,去年共同创立了FlowGPT,出于共同的愿望,即创建一个平台,人们可以快速创建和分享GenAI应用程序。

“用户使用AI仍然存在一定的学习曲线,” Dang在接受TechCrunch的电子邮件采访时说道。“FlowGPT正在通过每一次迭代降低门槛,使其更易访问。”

Dang将FlowGPT描述为GenAI应用程序的“生态系统”——一个基础设施和创作者工具的集合,与市场和GenAI应用程序用户社区相结合。用户根据热门类别(例如“创意”、“编程”、“游戏”、“学术”)获得应用程序和应用程序集的推荐,而创作者则获得定制GenAI应用程序行为和外观的选项。

用户通过与FlowGPT上的聊天窗口进行交互,该窗口与ChatGPT并没有太大差异,用户可以输入提示、为应用程序点赞(或点踩)、分享对话链接或向个别应用程序创作者打赏。每个应用程序都有创作者提供的描述,以及创建日期、使用次数和创作者建议用于支持它的模型。

探索FlowGPT:创新的天地还是道德的边界

我说创作者建议的模型,因为FlowGPT应用程序在本质上实际上是提示——这些提示引导模型以特定方式做出响应。例如,“Scared Girl from Horror Movie”应用程序指示ChatGPT叙述——正如标题所示——一个涉及一位受惊的女孩的恐怖故事。“TitleTuner”提示ChatGPT优化标题,使其在搜索引擎上排名更高。而SchoolGPT则利用ChatGPT为数学、物理和化学问题提供逐步解决方案。

您会注意到对ChatGPT的严重依赖。长时间使用FlowGPT,您还会注意到许多提示在将模型从默认设置更改后会出现问题。

有时是选择的模型没有正确的功能。其他时候,提示会遇到模型的过滤器和安全措施。

一些FlowGPT最受欢迎的应用程序本质上是旨在绕过模型安全措施的越狱。市场上有多个版本的DAN——“DAN”是一种常用的提示方法,用于让模型在没有通常规则束缚的情况下做出响应。另外,还有一些应用程序,如WormGPT,声称能够编写恶意软件(并链接到付费的、深网版本的聊天机器人,功能更强大),以及违反OpenAI反对培养浪漫伴侣规则的约会模拟器。

其中许多应用程序可能会造成伤害,例如治疗应用程序和自称为权威健康资源的应用程序。像ChatGPT这样的GenAI模型在健康建议方面往往表现糟糕,一项研究显示,ChatGPT的早期版本很少提供有关自杀、成瘾和性侵犯的具体资源的引荐。

FlowGPT上的任何违反行为——例如给出如何使用AI图像生成器生成深度伪造裸照的指示(有几个应用程序可以做到这一点)——都可以向平台的社区经理举报进行审核。FlowGPT确实提供了“敏感内容”切换选项。

但很明显,从主页上看,FlowGPT存在着管理问题。这是GenAI应用程序的“狂野西部”,而切换开关的效果不佳,以至于我几乎没注意到打开它后应用程序选择的变化。

探索FlowGPT:创新的天地还是道德的边界

本周,Goodwater宣布,他们在FlowGPT中领投了一轮1000万美元的“Pre-A轮”融资,现有投资者DCM也参与了其中。Goodwater合伙人Coddy Johnson通过电子邮件告诉TechCrunch,他认为FlowGPT通过为用户和创作者提供“最广泛的选择”和“最大的灵活性和自由度”,将“引领GenAI的未来”。

Johnson补充道:“我们相信AI的最大未来在于开放生态系统。”“FlowGPT允许创作者选择他们的模型,并与他们的社区合作。”

我不确定FlowGPT所使用的模型的所有维护者——尤其是那些承诺将AI安全视为首要任务的人——是否会对此表示同意。

尽管如此,在未受到来自供应商的影响(至少在发布时没有),FlowGPT——目前尚未产生收入——正在为扩张奠定基础。该公司正在为Android和iOS测试应用程序的测试版,将带来一种全新的FlowGPT体验,制定了面向应用程序创作者的收入分享模式,并正在招募新成员以扩大其位于伯克利的10人团队,Dang表示。

“通过拥有数百万月度用户和快速增长的速度,我们已经证明了我们正在走在正确的道路上,我们相信现在是加速进展的时候了,”他继续说道。“我们正在为AI驱动的环境设定新的标准,提供一个创意无限的世界......我们的使命仍然是培育一个更加开放和以创作者为中心的平台。”

正文完