|
本文将一步一步引导大家如何使用LlamaIndex和Ollama构建一个针对《劳动法》的问答机器人。这个机器人能够理解并回答关于这本劳动法的各种问题。 Ollama安装 Ollama简介Ollama 是一个强大的开源工具，用于在本地计算机上运行、管理和部署大型语言模型(LLMs)。它简化了下载和运行各种开源语言模型的过程，使开发者能够轻松地在本地环境中利用这些先进的AI技术。 核心特点本地运行：所有模型都在你的设备上运行，无需依赖云服务，保护隐私和数据安全 跨平台支持：支持 macOS、Linux 和 Windows 模型管理：轻松下载、更新和管理不同版本的模型 简单易用：通过命令行界面提供直观的操作方式 丰富的模型库：支持 Llama、Qwen、Gemma、Phi等多种开源模型 REST API：提供API接口，方便与其他应用集成 基础安装Ollama官网地址： Windows下载安装包安装即可，Linux和macOS执行下面的脚本安装。 sh体验AI代码助手代码解读复制代码curl -fsSL https://ollama.com/install.sh | sh安装完成后，执行下面命令，显示Ollama is running则表示安装成功。 sh体验AI代码助手代码解读复制代码curl localhost:11434 模型下载Ollama模型列表： sh体验AI代码助手代码解读复制代码# 下载问答模型 ollama pull qwen2.5:0.5b # 下载Embedding模型 ollama pull bge-m3 Jupyter安装 sh体验AI代码助手代码解读复制代码# 安装jupyter pip install jupyter # 创建工作目录 mkdir workdata/jupyter -p && cd workdata/jupyter # 运行jupyter jupyter-lab . 知识库构建 下载文档下载文档并将txt或者pdf文件移至工作目录下的/data目录。 sh体验AI代码助手代码解读复制代码mkdir workdata/jupyter/data && mv 劳动法.pdf workdata/jupyter/data 安装依赖库 ipynb体验AI代码助手代码解读复制代码!pip install llama-index ollama chromadb !pip install llama-index-vector-stores-chroma llama-index-embeddings-ollama 加载文档使用LlamaIndex核心库的SimpleDirectoryReader阅读器加载文档。 python体验AI代码助手代码解读复制代码from llama_index.core import SimpleDirectoryReader documents = SimpleDirectoryReader('./data/').load_data() documents
使用LlamaIndex核心库节点解析模块的SentenceSplitter(按照句子切分)拆分模块来拆分文档。 python体验AI代码助手代码解读复制代码from llama_index.core.node_parser import SentenceSplitter parser = SentenceSplitter( chunk_size=512, chunk_overlap=20 ) nodes = parser.get_nodes_from_documents(documents) nodes
chunk_size: 分块大小，每个文本块的最大长度。 chunk_overlap: 分块重叠，相邻文本块的重叠部分大小，一般为10%-20%。 存储文档 python体验AI代码助手代码解读复制代码# 导入chroma向量库 import chromadb # 导入OllamaEmbedding模块 from llama_index.embeddings.ollama import OllamaEmbedding # 导入存储上下文&向量索引模块 from llama_index.core import StorageContext, VectorStoreIndex # 导入Chroma的向量存储模块 from llama_index.vector_stores.chroma import ChromaVectorStore # 向量库连接 chroma_client = chromadb.PersistentClient('./data/ldf_chroma_db') # 创建集合（collection） collection = chroma_client.create_collection('ldf') # 实例化向量模型 embed_model = OllamaEmbedding( model_name='bge-m3' ) # 实例化向量存储 vector_store = ChromaVectorStore(chroma_collection=collection) # 实例化存储上下文 storage_context = StorageContext.from_defaults(vector_store=vector_store) # 索引文档并存入向量库 index = VectorStoreIndex( nodes=nodes, storage_context=storage_context, embed_model=embed_model, show_progress=True )
等待索引完成，到这里，我们已经完成的《劳动法》向量库的构建工作。 机器人构建 python体验AI代码助手代码解读复制代码import ollama from typing import List def retrieve_documents(query: str, top_k: int = 3) -> List[str]: """检索相关文档""" results = collection.query( query_embeddings=embed_model.get_query_embedding(query), n_results=top_k ) return results['documents'][0] def generate_answer(context: List[str], question: str) -> str: """生成回答""" context_str = "\n".join([f"[{i+1}] {doc}" for i, doc in enumerate(context)]) prompt = f""" 【系统指令】 你是一个法律专家，请根据以下资料回答问题。 【参考资料】 {context_str} 【用户问题】 {question} 【回答要求】 1. 答案必须来自参考资料 2. 保持客观准确 3. 使用中文回答 4. 不确定时回答"资料未提及" """ response = ollama.generate( model="qwen2.5:0.5b", prompt=prompt, options={"temperature": 0.3} ) return response['response'] def ask_rag(question: str) -> str: """基于知识库的RAG回答""" relevant_docs = retrieve_documents(question) print(relevant_docs) print('='*100) answer = generate_answer(relevant_docs, question) return answer 测试效果
…剩下的大家可以自己试试😁😁😁 如何零基础入门 / 学习AI大模型？大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。 不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！ 想正式转到一些新兴的 AI 行业，不仅需要系统的学习AI大模型。同时也要跟已有的技能结合，辅助编程提效，或上手实操应用，增加自己的职场竞争力。 但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高 那么我作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，希望可以帮助到更多学习大模型的人！至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。 这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
👉 福利来袭CSDN大礼包：《2025最全AI大模型学习资源包》免费分享，安全可点 👈 全套AGI大模型学习大纲+路线AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！ 这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。
👉学会后的收获：👈 • 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求； • 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握； • 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。 👉 福利来袭CSDN大礼包：《2025最全AI大模型学习资源包》免费分享，安全可点 👈
这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。 (提示：北京麦克技术服务有限公司为您提供北京专业的劳务派遣公司、北京劳务外包公司、北京最好的劳务派遣公司、北京劳务服务外包公司、北京物业管理服务、北京保安服务、北京人事代理、北京人力资源外包服务公司、北京区域人力资源服务商) |
