OpenAI 的 GPT-3、Google 的 BERT 和 Meta 的 LLaMA 等大型语言模型 (LLM) 的功能正在改变各个行业,因为它们能够生成各种类型的文本,从营销内容和数据科学代码到诗歌。尽管 ChatGPT 因其用户友好的聊天界面而备受关注,但通过将 LLM 集成到不同的软件应用程序中,仍存在许多尚未开发的可能性。在本文中您可以了解有关使用 LangChain 构建 AI 应用程序的更多信息,您将在其中了解如何使用 Whisper 语音到文本 AI 转录 YouTube 视频内容,然后使用 GPT…

2024年5月3日 0条评论 551点热度 0人点赞 阅读全文

大型语言模型 (LLM) 正在给各个行业带来革命性的变化。从客户服务聊天机器人到复杂的数据分析工具,这项强大技术的功能正在重塑数字交互和自动化的格局。 然而,LLM 的实际应用可能会受到对高性能计算的需求或对快速响应时间的需求的限制。这些模型通常需要复杂的硬件和广泛的依赖性,这使得它们很难在更受限的环境中采用。 这就是 LLaMa.cpp 发挥作用的地方,它为重量级框架提供了更轻、更便携的替代方案。 什么是 Llama.cpp? LLaMa.cpp 由 Georgi Gerganov 开发。它以高效的 C/C++ …

2024年4月30日 0条评论 2903点热度 1人点赞 阅读全文

正如谷歌、三星和微软继续在 PC 和移动设备上推动生成式 AI 的努力一样,苹果也正在通过OpenELM加入这一行列,这是一个新的开源大语言模型 (LLM) 系列,可以完全在移动设备上本地运行,而不必连接到云服务器。 OpenELM简介 OpenELM于4月24日在 AI 代码社区 Hugging Face 上发布,它由旨在高效执行文本生成任务的小型模型组成。 总共有八个 OpenELM 模型,其中四个是预训练的,四个是指令调整的,涵盖了 2.7 亿到 30 亿个参数之间的不同参数大小(指的是L…

2024年4月25日 0条评论 590点热度 0人点赞 阅读全文

Meta Llama 3 简介 Meta于4月18日正式发布了其 Llama 系列开放式生成式 AI 模型的最新成员:Llama 3。新模型 Llama 3 8B(包含 80 亿个参数)和 Llama 3 70B(包含 700 亿个参数)与上一代 Llama 模型 Llama 2 8B 和 Llama 2 70B 相比,在性能方面实现了“重大飞跃”。 (参数本质上定义了 AI 模型处理问题(例如分析和生成文本)的技能;一般来说,参数数量较高的模型比参数数量较低的模型更强大。)事实上,Meta 表示,就各自的参数数量…

2024年4月20日 0条评论 752点热度 0人点赞 阅读全文

在快速发展的人工智能领域,大型语言模型已成为该领域最新突破的主角。大型语言模型(LLM)迅速普及,几乎每周都会出现新的模型,这引发了用于容纳这项技术的托管选项的同步增长。文本生成已成为一项突破性的功能,改变了机器理解和生成类似人类的文本的方式。正是由于这种流行,才推出了多种工具来简化和促进 LLM 的工作流程。在可用于此目的的众多工具中,Hugging Face 的文本生成推理 (Text Generation Inference,TGI) 尤其值得一提,因为它允许我们在本地机器上将 LLM 作为服务运行。 简单地…

2024年4月9日 0条评论 1688点热度 0人点赞 阅读全文

什么是 QAnything? QAnything(Question and Answer based on Anything)是一个本地知识库问答系统,旨在支持多种文件格式和数据库,允许离线安装和使用。使用QAnything,您可以简单地删除本地存储的任何格式的文件,并获得准确、快速和可靠的答案。QAnything目前支持的知识库文件格式包括:PDF(pdf) ,  Word(docx) ,  PPT(pptx) ,  XLS…

2024年2月6日 19条评论 3091点热度 0人点赞 阅读全文

作者:Yury Gorbachev 英特尔院士 ,OpenVINO™ 产品架构师 在过去的一年里,人工智能正以越来越快的速度发展,这得益于生成式 AI 模型的引入和从中受益的场景的演变。我们承认这一点,并决定比平时更快地发布新版本的 OpenVINO™ ,以帮助您获得新功能! 与之前的版本一样,在提高性能、增加对新 AI 模型的支持以及构建基础设施和模型缓存等不同组件方面,我们做了大量工作。对于我们最新的 2023.2 版本,我们做出了一些重大改进,我们将在下面概述。 边缘文本生成模型的附加性能 在我们的上一个版本…

2024年1月18日 0条评论 460点热度 0人点赞 阅读全文
12