基于Youtu-VL-4B-Instruct-GGUF的Python爬虫数据可视化分析实战最近在做一个市场调研项目需要分析某个品类下商品的流行趋势。传统做法是手动收集图片、看详情、做记录再整理成表格整个过程繁琐又耗时。有没有一种方法能让程序自动抓取商品图片然后“看懂”图片内容最后自动生成分析报告呢答案是肯定的。这次我们就来聊聊如何把Python爬虫和一个能“看图说话”的模型——Youtu-VL-4B-Instruct-GGUF——结合起来打造一个从数据采集、智能理解到可视化分析的全自动流水线。整个过程不需要你一张张图片去分析程序会帮你搞定大部分工作。简单来说我们的目标是写个爬虫去电商网站抓一批商品主图然后让模型自动描述每张图片里的商品特点最后把这些描述文本汇总起来用图表直观地展示出颜色、款式、场景等流行趋势。下面我就带你一步步实现它。1. 项目准备与环境搭建在开始写代码之前我们需要把“工具箱”准备好。这个项目主要用到三个部分爬虫工具、视觉语言模型以及数据分析库。首先安装必要的Python库。打开你的终端或命令行执行下面的命令pip install requests beautifulsoup4 pandas matplotlib seaborn这里简单解释一下每个库的用途requests和beautifulsoup4这对黄金搭档是用来写爬虫从网页上抓取我们需要的图片链接和商品信息的。pandas数据分析的核心用来清洗、整理模型生成的文本描述并做统计。matplotlib和seaborn这两个是画图的好手能把枯燥的数据变成直观的图表。接下来是重头戏部署Youtu-VL-4B-Instruct-GGUF模型。这个模型的特点是能接受图片和文字指令然后输出对图片的描述或回答相关问题。我们选择GGUF格式的版本因为它对本地部署更友好资源占用也相对可控。你可以从一些主流的模型仓库找到这个模型的GGUF文件。下载完成后我们需要一个能高效加载和运行GGUF格式模型的库。这里推荐使用llama-cpp-python它对各种GGUF模型的支持很好接口也简单。pip install llama-cpp-python安装完成后用几行代码测试一下模型是否能正常加载。我们先不处理图片只是确保库安装正确。# test_llama_cpp.py from llama_cpp import Llama # 注意这里先不加载真实模型文件仅测试导入 print(“llama-cpp-python 库导入成功”) # 实际使用时需要指定你下载的 .gguf 模型文件路径 # llm Llama(model_path“./youtu-vl-4b-instruct.gguf”, n_ctx2048)运行这个脚本如果没有报错说明环境基本就绪。现在我们的“车间”已经准备好可以开始生产线的第一个环节了。2. 编写爬虫自动化采集商品图片我们的数据源是电商网站的商品列表页。为了不干扰目标网站的正常运行并且遵守相关规范这里我们以公开的、允许爬取的示例网站或静态页面作为演示目标。在实际操作中请务必确认目标网站的robots.txt协议并尊重版权与使用条款。假设我们要分析“帆布鞋”这个品类爬虫的任务是找到商品列表提取每个商品的图片链接和商品名称然后把图片下载到本地。下面是一个基础的爬虫示例它解析网页结构获取我们需要的信息import requests from bs4 import BeautifulSoup import os import time def fetch_product_images(base_url, pages_to_crawl3, save_dir“./product_images”): 从示例商品列表页抓取图片 base_url: 列表页的基础URL需支持分页如 page1 pages_to_crawl: 要抓取的页数 save_dir: 图片保存的本地目录 # 创建保存图片的文件夹 os.makedirs(save_dir, exist_okTrue) headers { ‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36’ } product_data [] # 用来存储商品信息名称 图片本地路径 for page in range(1, pages_to_crawl 1): print(f“正在抓取第 {page} 页...”) # 构造每一页的URL这里需要根据目标网站实际结构调整 url f“{base_url}?page{page}” try: response requests.get(url, headersheaders, timeout10) response.raise_for_status() # 检查请求是否成功 except requests.RequestException as e: print(f“请求第 {page} 页失败: {e}”) continue soup BeautifulSoup(response.text, ‘html.parser’) # 这里需要根据目标网站的实际HTML结构来定位商品和图片 # 以下是一个示例选择器你需要用浏览器的开发者工具自行分析并替换 product_items soup.select(‘.product-item’) # 假设商品块的CSS类为 .product-item for item in product_items: # 提取商品名称 name_elem item.select_one(‘.product-name’) product_name name_elem.text.strip() if name_elem else “未命名商品” # 提取图片链接 img_elem item.select_one(‘img.product-image’) if not img_elem or not img_elem.get(‘src’): continue img_url img_elem[‘src’] # 处理可能的相对路径 if img_url.startswith(‘//’): img_url ‘https:’ img_url elif img_url.startswith(‘/’): img_url ‘https://example.com’ img_url # 替换为实际域名 # 下载图片 try: img_data requests.get(img_url, headersheaders, timeout10).content # 用商品名和随机字符串生成文件名避免重复 file_name f“{product_name[:20]}_{int(time.time())}.jpg”.replace(‘/’, ‘_’) file_path os.path.join(save_dir, file_name) with open(file_path, ‘wb’) as f: f.write(img_data) # 记录商品信息 product_data.append({ “name”: product_name, “image_path”: file_path }) print(f“已下载: {product_name}”) except Exception as e: print(f“下载图片失败 {img_url}: {e}”) # 礼貌爬取间隔一段时间 time.sleep(1) print(f“抓取完成共获取 {len(product_data)} 张商品图片。”) return product_data # 使用示例 (请将base_url替换为你要分析的、允许爬取的页面地址) if __name__ “__main__”: # 这是一个示例URL实际操作中请替换 example_base_url “https://example-store.com/category/canvas-shoes” data fetch_product_images(example_base_url, pages_to_crawl2, save_dir“./shoes_images”) # 将商品信息保存为CSV方便后续使用 import pandas as pd df pd.DataFrame(data) df.to_csv(“product_list.csv”, indexFalse)这段代码运行后你的本地shoes_images文件夹里就会多出一批帆布鞋的图片同时product_list.csv文件记录了图片和商品名的对应关系。有了原材料下一步就是让模型来“品鉴”这些图片了。3. 调用模型让AI“看懂”商品图片图片下载好了但对我们来说它们还只是一堆像素文件。接下来我们要请出 Youtu-VL-4B-Instruct 模型让它扮演一个专业的商品分析师描述每一张图片里的商品特征。这个模型是多模态的意味着它能同时处理图像和文本。我们的任务是给模型一张图片并提一个具体的问题比如“请详细描述图片中鞋子的颜色、款式、材质和可能的穿着场景”。模型会结合图片内容生成一段结构化的文本描述。首先我们需要编写一个函数将图片编码成模型可以接受的格式并构建一个包含图片和问题的提示信息发送给模型。import base64 from llama_cpp import Llama from PIL import Image import io class ProductImageAnalyzer: def __init__(self, model_path): 初始化分析器加载GGUF模型 model_path: 下载的 .gguf 模型文件路径 print(“正在加载视觉语言模型这可能需要一些时间...”) # n_ctx 是上下文长度根据模型和你的硬件调整。2048是一个常见的起始值。 self.llm Llama(model_pathmodel_path, n_ctx2048, verboseFalse) print(“模型加载完成”) def encode_image_to_base64(self, image_path): 将图片文件转换为Base64编码字符串 with open(image_path, “rb”) as image_file: encoded_string base64.b64encode(image_file.read()).decode(‘utf-8’) return encoded_string def analyze_product_image(self, image_path, question): 分析单张商品图片 image_path: 图片本地路径 question: 向模型提出的问题 # 1. 准备图片 image_base64 self.encode_image_to_base64(image_path) # 2. 构建符合模型格式的提示信息 # Youtu-VL-Instruct 模型通常遵循特定的多模态指令格式。 # 这里是一个通用示例实际格式请参考该模型的官方文档或示例。 prompt f“image{image_base64}/image\n\n用户: {question}\n助手:” # 3. 调用模型生成描述 try: # 调用模型设置生成参数 output self.llm( promptprompt, max_tokens256, # 控制生成文本的长度 stop[“\n”, “/s”], # 停止生成的标记 echoFalse # 不返回输入的提示 ) # 提取模型生成的回答 description output[‘choices’][0][‘text’].strip() return description except Exception as e: print(f“分析图片 {image_path} 时出错: {e}”) return None # 使用示例 if __name__ “__main__”: # 初始化分析器指定你的模型文件路径 analyzer ProductImageAnalyzer(model_path“./youtu-vl-4b-instruct.Q4_K_M.gguf”) # 准备一个问题模板引导模型输出结构化描述 analysis_question “””请仔细观察这张商品图片并详细描述 1. 商品的主要颜色是什么 2. 它属于什么款式或风格例如休闲、运动、复古 3. 看起来使用了哪些材质 4. 你认为它适合在什么场景下穿着 请用简洁的文本回答。””” # 分析一张示例图片 test_image_path “./shoes_images/示例帆布鞋_1234567890.jpg” result analyzer.analyze_product_image(test_image_path, analysis_question) if result: print(“模型分析结果”) print(result)运行这段代码模型就会输出对那张示例图片的描述可能类似于“这是一双白色的高帮帆布鞋鞋面是纯棉帆布材质鞋底为橡胶风格简约休闲。鞋侧有品牌Logo印花。适合日常休闲、校园或逛街等非正式场合穿着。”单张图片分析成功了但我们有几十上百张图片。接下来我们需要写一个批处理脚本自动遍历所有下载的图片调用模型进行分析并把结果保存下来。4. 批量处理与数据聚合手动一张张跑太慢了。我们写个循环读取之前生成的product_list.csv文件遍历里面的每一条记录调用模型分析对应的图片然后把结果存回表格里。import pandas as pd import time def batch_analyze_images(product_csv_path, analyzer, question, output_csv_path): 批量分析商品图片 product_csv_path: 包含图片路径的CSV文件 analyzer: 初始化好的ProductImageAnalyzer实例 question: 分析问题 output_csv_path: 输出结果CSV路径 # 读取商品列表 df pd.read_csv(product_csv_path) # 检查必要的列 if “image_path” not in df.columns: print(“CSV文件中未找到 ‘image_path’ 列。”) return # 新增一列用于存储分析结果 df[‘ai_description’] “” total len(df) for idx, row in df.iterrows(): img_path row[‘image_path’] print(f“正在分析 [{idx1}/{total}]: {img_path}”) # 调用模型分析 description analyzer.analyze_product_image(img_path, question) if description: df.at[idx, ‘ai_description’] description else: df.at[idx, ‘ai_description’] “分析失败” # 每处理一张图片后稍作停顿避免过度占用资源 time.sleep(0.5) # 保存结果 df.to_csv(output_csv_path, indexFalse) print(f“批量分析完成结果已保存至: {output_csv_path}”) return df # 整合到主流程中 if __name__ “__main__”: # 1. 加载模型 (此步骤较耗时只需一次) model_path “./youtu-vl-4b-instruct.Q4_K_M.gguf” # 请替换为你的模型路径 analyzer ProductImageAnalyzer(model_path) # 2. 定义分析问题 analysis_question “...” # 使用上面定义的问题 # 3. 执行批量分析 input_csv “product_list.csv” output_csv “product_analysis_results.csv” results_df batch_analyze_images(input_csv, analyzer, analysis_question, output_csv) # 预览一下结果 print(“\n分析结果预览”) print(results_df[[‘name’, ‘ai_description’]].head())跑完这个脚本你就得到了一个包含AI描述的新表格product_analysis_results.csv。现在数据已经从原始的图片转化成了结构化的文本信息。但这些文本描述还是非结构化的我们需要从中提取出关键信息比如“颜色”、“款式”才能进行统计和可视化。5. 从文本到洞察数据清洗与可视化模型生成的描述是自然语言我们需要从中提取出我们关心的标签。这里可以用一些简单的规则或关键词匹配。对于更复杂的场景可以考虑用更高级的自然语言处理技术但为了快速上手我们先用一个简单有效的方法。假设我们关心颜色、款式和场景这三个维度。我们可以定义一些关键词列表然后在每一条AI描述中搜索这些关键词。import pandas as pd import re from collections import Counter import matplotlib.pyplot as plt import seaborn as sns # 设置中文显示和图表样式 plt.rcParams[‘font.sans-serif’] [‘SimHei’, ‘Arial Unicode MS’] # 用来正常显示中文标签 plt.rcParams[‘axes.unicode_minus’] False # 用来正常显示负号 sns.set_style(“whitegrid”) def extract_tags_from_descriptions(df): 从AI描述中提取颜色、款式、场景标签 df: 包含 ‘ai_description’ 列的DataFrame # 定义关键词词典 (可以根据你的商品领域扩展) color_keywords [‘白色’, ‘黑色’, ‘红色’, ‘蓝色’, ‘绿色’, ‘黄色’, ‘粉色’, ‘灰色’, ‘棕色’, ‘米色’, ‘彩色’, ‘撞色’] style_keywords [‘休闲’, ‘运动’, ‘复古’, ‘简约’, ‘潮流’, ‘商务’, ‘街头’, ‘学院风’, ‘工装’, ‘甜美’] scene_keywords [‘日常’, ‘逛街’, ‘校园’, ‘运动’, ‘旅游’, ‘上班’, ‘聚会’, ‘户外’, ‘通勤’, ‘约会’] extracted_data [] for desc in df[‘ai_description’]: color_found [] style_found [] scene_found [] # 在描述中查找关键词 for word in color_keywords: if word in desc: color_found.append(word) for word in style_keywords: if word in desc: style_found.append(word) for word in scene_keywords: if word in desc: scene_found.append(word) # 如果没找到标记为‘其他’或留空 color ‘、’.join(color_found) if color_found else ‘其他/未识别’ style ‘、’.join(style_found) if style_found else ‘其他/未识别’ scene ‘、’.join(scene_found) if scene_found else ‘其他/未识别’ extracted_data.append({‘color’: color, ‘style’: style, ‘scene’: scene}) # 将提取结果合并到原DataFrame tags_df pd.DataFrame(extracted_data) result_df pd.concat([df, tags_df], axis1) return result_df def create_visualizations(df): 根据提取的标签创建可视化图表 # 1. 颜色分布柱状图 plt.figure(figsize(10, 6)) # 处理可能包含多个颜色的单元格如“白色、黑色”先拆分再统计 all_colors [] for colors in df[‘color’]: if ‘、’ in colors: all_colors.extend(colors.split(‘、’)) else: all_colors.append(colors) color_counts pd.Series(all_colors).value_counts() color_counts.plot(kind‘bar’, colorsns.color_palette(“husl”, len(color_counts))) plt.title(‘商品颜色分布’) plt.xlabel(‘颜色’) plt.ylabel(‘商品数量’) plt.xticks(rotation45) plt.tight_layout() plt.savefig(‘color_distribution.png’, dpi300) plt.show() # 2. 款式风格分布饼图 plt.figure(figsize(8, 8)) all_styles [] for styles in df[‘style’]: if ‘、’ in styles: all_styles.extend(styles.split(‘、’)) else: all_styles.append(styles) style_counts pd.Series(all_styles).value_counts() plt.pie(style_counts.values, labelsstyle_counts.index, autopct‘%1.1f%%’, startangle90) plt.title(‘商品款式风格分布’) plt.tight_layout() plt.savefig(‘style_distribution.png’, dpi300) plt.show() # 3. 颜色与款式的关联热力图交叉表 # 简化处理只取每个商品第一个识别到的颜色和款式 df[‘primary_color’] df[‘color’].apply(lambda x: x.split(‘、’)[0]) df[‘primary_style’] df[‘style’].apply(lambda x: x.split(‘、’)[0]) cross_tab pd.crosstab(df[‘primary_color’], df[‘primary_style’]) plt.figure(figsize(10, 8)) sns.heatmap(cross_tab, annotTrue, fmt‘d’, cmap“YlOrRd”, linewidths.5) plt.title(‘颜色与款式关联热力图’) plt.xlabel(‘款式’) plt.ylabel(‘颜色’) plt.tight_layout() plt.savefig(‘color_style_heatmap.png’, dpi300) plt.show() print(“可视化图表已生成并保存为PNG文件。”) # 主流程加载分析结果提取标签生成图表 if __name__ “__main__”: # 加载上一步保存的分析结果 results_df pd.read_csv(“product_analysis_results.csv”) # 提取标签 df_with_tags extract_tags_from_descriptions(results_df) df_with_tags.to_csv(“product_analysis_with_tags.csv”, indexFalse) print(“标签提取完成数据已保存。”) # 生成可视化图表 create_visualizations(df_with_tags)运行这段代码后你会得到三张图一张展示了哪种颜色的帆布鞋最多一张饼图显示了不同风格如休闲、运动的占比还有一张热力图揭示了颜色和风格之间的组合关系比如是不是白色更常与“简约”风格同时出现。这些图表就是我们从海量商品图片中挖掘出的市场趋势洞察。6. 总结走完这一整套流程你会发现将Python爬虫和视觉语言模型结合能打开一扇新的大门。我们不再需要人工去一张张看图、做笔记而是构建了一个自动化的分析管道。从网络抓取原始图片到AI模型进行智能理解并生成描述性文本再到最后的数据清洗和可视化呈现整个过程虽然涉及多个步骤但每一步的代码都不算复杂。这种方法的优势很明显。首先是效率批量处理几百张图片也就是跑一段脚本的时间。其次是客观模型的分析基于图像内容本身减少了人为的主观偏差。最后是深度我们可以从非结构化的图片中提取出结构化的数据维度颜色、款式等并进行量化分析这是传统人工浏览很难做到的。当然这个实战示例还有很多可以优化的地方。比如关键词提取可以做得更智能用上正则表达式或者更轻量级的NLP模型对于模型生成描述的格式可以设计更精准的提示词让输出更规整方便解析在可视化方面也可以加入时间维度分析趋势变化。如果你对某个品类比如服装、家具、美食的市场分析感兴趣完全可以套用这个框架。换个爬虫目标调整一下分析问题中的关键词你就能得到一份全新的市场分析报告。技术的目的就是如此把复杂的、重复的工作交给程序让我们能更专注于思考和决策。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。 基于Youtu-VL-4B-Instruct-GGUF的Python爬虫数据可视化分析实战
基于Youtu-VL-4B-Instruct-GGUF的Python爬虫数据可视化分析实战最近在做一个市场调研项目需要分析某个品类下商品的流行趋势。传统做法是手动收集图片、看详情、做记录再整理成表格整个过程繁琐又耗时。有没有一种方法能让程序自动抓取商品图片然后“看懂”图片内容最后自动生成分析报告呢答案是肯定的。这次我们就来聊聊如何把Python爬虫和一个能“看图说话”的模型——Youtu-VL-4B-Instruct-GGUF——结合起来打造一个从数据采集、智能理解到可视化分析的全自动流水线。整个过程不需要你一张张图片去分析程序会帮你搞定大部分工作。简单来说我们的目标是写个爬虫去电商网站抓一批商品主图然后让模型自动描述每张图片里的商品特点最后把这些描述文本汇总起来用图表直观地展示出颜色、款式、场景等流行趋势。下面我就带你一步步实现它。1. 项目准备与环境搭建在开始写代码之前我们需要把“工具箱”准备好。这个项目主要用到三个部分爬虫工具、视觉语言模型以及数据分析库。首先安装必要的Python库。打开你的终端或命令行执行下面的命令pip install requests beautifulsoup4 pandas matplotlib seaborn这里简单解释一下每个库的用途requests和beautifulsoup4这对黄金搭档是用来写爬虫从网页上抓取我们需要的图片链接和商品信息的。pandas数据分析的核心用来清洗、整理模型生成的文本描述并做统计。matplotlib和seaborn这两个是画图的好手能把枯燥的数据变成直观的图表。接下来是重头戏部署Youtu-VL-4B-Instruct-GGUF模型。这个模型的特点是能接受图片和文字指令然后输出对图片的描述或回答相关问题。我们选择GGUF格式的版本因为它对本地部署更友好资源占用也相对可控。你可以从一些主流的模型仓库找到这个模型的GGUF文件。下载完成后我们需要一个能高效加载和运行GGUF格式模型的库。这里推荐使用llama-cpp-python它对各种GGUF模型的支持很好接口也简单。pip install llama-cpp-python安装完成后用几行代码测试一下模型是否能正常加载。我们先不处理图片只是确保库安装正确。# test_llama_cpp.py from llama_cpp import Llama # 注意这里先不加载真实模型文件仅测试导入 print(“llama-cpp-python 库导入成功”) # 实际使用时需要指定你下载的 .gguf 模型文件路径 # llm Llama(model_path“./youtu-vl-4b-instruct.gguf”, n_ctx2048)运行这个脚本如果没有报错说明环境基本就绪。现在我们的“车间”已经准备好可以开始生产线的第一个环节了。2. 编写爬虫自动化采集商品图片我们的数据源是电商网站的商品列表页。为了不干扰目标网站的正常运行并且遵守相关规范这里我们以公开的、允许爬取的示例网站或静态页面作为演示目标。在实际操作中请务必确认目标网站的robots.txt协议并尊重版权与使用条款。假设我们要分析“帆布鞋”这个品类爬虫的任务是找到商品列表提取每个商品的图片链接和商品名称然后把图片下载到本地。下面是一个基础的爬虫示例它解析网页结构获取我们需要的信息import requests from bs4 import BeautifulSoup import os import time def fetch_product_images(base_url, pages_to_crawl3, save_dir“./product_images”): 从示例商品列表页抓取图片 base_url: 列表页的基础URL需支持分页如 page1 pages_to_crawl: 要抓取的页数 save_dir: 图片保存的本地目录 # 创建保存图片的文件夹 os.makedirs(save_dir, exist_okTrue) headers { ‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36’ } product_data [] # 用来存储商品信息名称 图片本地路径 for page in range(1, pages_to_crawl 1): print(f“正在抓取第 {page} 页...”) # 构造每一页的URL这里需要根据目标网站实际结构调整 url f“{base_url}?page{page}” try: response requests.get(url, headersheaders, timeout10) response.raise_for_status() # 检查请求是否成功 except requests.RequestException as e: print(f“请求第 {page} 页失败: {e}”) continue soup BeautifulSoup(response.text, ‘html.parser’) # 这里需要根据目标网站的实际HTML结构来定位商品和图片 # 以下是一个示例选择器你需要用浏览器的开发者工具自行分析并替换 product_items soup.select(‘.product-item’) # 假设商品块的CSS类为 .product-item for item in product_items: # 提取商品名称 name_elem item.select_one(‘.product-name’) product_name name_elem.text.strip() if name_elem else “未命名商品” # 提取图片链接 img_elem item.select_one(‘img.product-image’) if not img_elem or not img_elem.get(‘src’): continue img_url img_elem[‘src’] # 处理可能的相对路径 if img_url.startswith(‘//’): img_url ‘https:’ img_url elif img_url.startswith(‘/’): img_url ‘https://example.com’ img_url # 替换为实际域名 # 下载图片 try: img_data requests.get(img_url, headersheaders, timeout10).content # 用商品名和随机字符串生成文件名避免重复 file_name f“{product_name[:20]}_{int(time.time())}.jpg”.replace(‘/’, ‘_’) file_path os.path.join(save_dir, file_name) with open(file_path, ‘wb’) as f: f.write(img_data) # 记录商品信息 product_data.append({ “name”: product_name, “image_path”: file_path }) print(f“已下载: {product_name}”) except Exception as e: print(f“下载图片失败 {img_url}: {e}”) # 礼貌爬取间隔一段时间 time.sleep(1) print(f“抓取完成共获取 {len(product_data)} 张商品图片。”) return product_data # 使用示例 (请将base_url替换为你要分析的、允许爬取的页面地址) if __name__ “__main__”: # 这是一个示例URL实际操作中请替换 example_base_url “https://example-store.com/category/canvas-shoes” data fetch_product_images(example_base_url, pages_to_crawl2, save_dir“./shoes_images”) # 将商品信息保存为CSV方便后续使用 import pandas as pd df pd.DataFrame(data) df.to_csv(“product_list.csv”, indexFalse)这段代码运行后你的本地shoes_images文件夹里就会多出一批帆布鞋的图片同时product_list.csv文件记录了图片和商品名的对应关系。有了原材料下一步就是让模型来“品鉴”这些图片了。3. 调用模型让AI“看懂”商品图片图片下载好了但对我们来说它们还只是一堆像素文件。接下来我们要请出 Youtu-VL-4B-Instruct 模型让它扮演一个专业的商品分析师描述每一张图片里的商品特征。这个模型是多模态的意味着它能同时处理图像和文本。我们的任务是给模型一张图片并提一个具体的问题比如“请详细描述图片中鞋子的颜色、款式、材质和可能的穿着场景”。模型会结合图片内容生成一段结构化的文本描述。首先我们需要编写一个函数将图片编码成模型可以接受的格式并构建一个包含图片和问题的提示信息发送给模型。import base64 from llama_cpp import Llama from PIL import Image import io class ProductImageAnalyzer: def __init__(self, model_path): 初始化分析器加载GGUF模型 model_path: 下载的 .gguf 模型文件路径 print(“正在加载视觉语言模型这可能需要一些时间...”) # n_ctx 是上下文长度根据模型和你的硬件调整。2048是一个常见的起始值。 self.llm Llama(model_pathmodel_path, n_ctx2048, verboseFalse) print(“模型加载完成”) def encode_image_to_base64(self, image_path): 将图片文件转换为Base64编码字符串 with open(image_path, “rb”) as image_file: encoded_string base64.b64encode(image_file.read()).decode(‘utf-8’) return encoded_string def analyze_product_image(self, image_path, question): 分析单张商品图片 image_path: 图片本地路径 question: 向模型提出的问题 # 1. 准备图片 image_base64 self.encode_image_to_base64(image_path) # 2. 构建符合模型格式的提示信息 # Youtu-VL-Instruct 模型通常遵循特定的多模态指令格式。 # 这里是一个通用示例实际格式请参考该模型的官方文档或示例。 prompt f“image{image_base64}/image\n\n用户: {question}\n助手:” # 3. 调用模型生成描述 try: # 调用模型设置生成参数 output self.llm( promptprompt, max_tokens256, # 控制生成文本的长度 stop[“\n”, “/s”], # 停止生成的标记 echoFalse # 不返回输入的提示 ) # 提取模型生成的回答 description output[‘choices’][0][‘text’].strip() return description except Exception as e: print(f“分析图片 {image_path} 时出错: {e}”) return None # 使用示例 if __name__ “__main__”: # 初始化分析器指定你的模型文件路径 analyzer ProductImageAnalyzer(model_path“./youtu-vl-4b-instruct.Q4_K_M.gguf”) # 准备一个问题模板引导模型输出结构化描述 analysis_question “””请仔细观察这张商品图片并详细描述 1. 商品的主要颜色是什么 2. 它属于什么款式或风格例如休闲、运动、复古 3. 看起来使用了哪些材质 4. 你认为它适合在什么场景下穿着 请用简洁的文本回答。””” # 分析一张示例图片 test_image_path “./shoes_images/示例帆布鞋_1234567890.jpg” result analyzer.analyze_product_image(test_image_path, analysis_question) if result: print(“模型分析结果”) print(result)运行这段代码模型就会输出对那张示例图片的描述可能类似于“这是一双白色的高帮帆布鞋鞋面是纯棉帆布材质鞋底为橡胶风格简约休闲。鞋侧有品牌Logo印花。适合日常休闲、校园或逛街等非正式场合穿着。”单张图片分析成功了但我们有几十上百张图片。接下来我们需要写一个批处理脚本自动遍历所有下载的图片调用模型进行分析并把结果保存下来。4. 批量处理与数据聚合手动一张张跑太慢了。我们写个循环读取之前生成的product_list.csv文件遍历里面的每一条记录调用模型分析对应的图片然后把结果存回表格里。import pandas as pd import time def batch_analyze_images(product_csv_path, analyzer, question, output_csv_path): 批量分析商品图片 product_csv_path: 包含图片路径的CSV文件 analyzer: 初始化好的ProductImageAnalyzer实例 question: 分析问题 output_csv_path: 输出结果CSV路径 # 读取商品列表 df pd.read_csv(product_csv_path) # 检查必要的列 if “image_path” not in df.columns: print(“CSV文件中未找到 ‘image_path’ 列。”) return # 新增一列用于存储分析结果 df[‘ai_description’] “” total len(df) for idx, row in df.iterrows(): img_path row[‘image_path’] print(f“正在分析 [{idx1}/{total}]: {img_path}”) # 调用模型分析 description analyzer.analyze_product_image(img_path, question) if description: df.at[idx, ‘ai_description’] description else: df.at[idx, ‘ai_description’] “分析失败” # 每处理一张图片后稍作停顿避免过度占用资源 time.sleep(0.5) # 保存结果 df.to_csv(output_csv_path, indexFalse) print(f“批量分析完成结果已保存至: {output_csv_path}”) return df # 整合到主流程中 if __name__ “__main__”: # 1. 加载模型 (此步骤较耗时只需一次) model_path “./youtu-vl-4b-instruct.Q4_K_M.gguf” # 请替换为你的模型路径 analyzer ProductImageAnalyzer(model_path) # 2. 定义分析问题 analysis_question “...” # 使用上面定义的问题 # 3. 执行批量分析 input_csv “product_list.csv” output_csv “product_analysis_results.csv” results_df batch_analyze_images(input_csv, analyzer, analysis_question, output_csv) # 预览一下结果 print(“\n分析结果预览”) print(results_df[[‘name’, ‘ai_description’]].head())跑完这个脚本你就得到了一个包含AI描述的新表格product_analysis_results.csv。现在数据已经从原始的图片转化成了结构化的文本信息。但这些文本描述还是非结构化的我们需要从中提取出关键信息比如“颜色”、“款式”才能进行统计和可视化。5. 从文本到洞察数据清洗与可视化模型生成的描述是自然语言我们需要从中提取出我们关心的标签。这里可以用一些简单的规则或关键词匹配。对于更复杂的场景可以考虑用更高级的自然语言处理技术但为了快速上手我们先用一个简单有效的方法。假设我们关心颜色、款式和场景这三个维度。我们可以定义一些关键词列表然后在每一条AI描述中搜索这些关键词。import pandas as pd import re from collections import Counter import matplotlib.pyplot as plt import seaborn as sns # 设置中文显示和图表样式 plt.rcParams[‘font.sans-serif’] [‘SimHei’, ‘Arial Unicode MS’] # 用来正常显示中文标签 plt.rcParams[‘axes.unicode_minus’] False # 用来正常显示负号 sns.set_style(“whitegrid”) def extract_tags_from_descriptions(df): 从AI描述中提取颜色、款式、场景标签 df: 包含 ‘ai_description’ 列的DataFrame # 定义关键词词典 (可以根据你的商品领域扩展) color_keywords [‘白色’, ‘黑色’, ‘红色’, ‘蓝色’, ‘绿色’, ‘黄色’, ‘粉色’, ‘灰色’, ‘棕色’, ‘米色’, ‘彩色’, ‘撞色’] style_keywords [‘休闲’, ‘运动’, ‘复古’, ‘简约’, ‘潮流’, ‘商务’, ‘街头’, ‘学院风’, ‘工装’, ‘甜美’] scene_keywords [‘日常’, ‘逛街’, ‘校园’, ‘运动’, ‘旅游’, ‘上班’, ‘聚会’, ‘户外’, ‘通勤’, ‘约会’] extracted_data [] for desc in df[‘ai_description’]: color_found [] style_found [] scene_found [] # 在描述中查找关键词 for word in color_keywords: if word in desc: color_found.append(word) for word in style_keywords: if word in desc: style_found.append(word) for word in scene_keywords: if word in desc: scene_found.append(word) # 如果没找到标记为‘其他’或留空 color ‘、’.join(color_found) if color_found else ‘其他/未识别’ style ‘、’.join(style_found) if style_found else ‘其他/未识别’ scene ‘、’.join(scene_found) if scene_found else ‘其他/未识别’ extracted_data.append({‘color’: color, ‘style’: style, ‘scene’: scene}) # 将提取结果合并到原DataFrame tags_df pd.DataFrame(extracted_data) result_df pd.concat([df, tags_df], axis1) return result_df def create_visualizations(df): 根据提取的标签创建可视化图表 # 1. 颜色分布柱状图 plt.figure(figsize(10, 6)) # 处理可能包含多个颜色的单元格如“白色、黑色”先拆分再统计 all_colors [] for colors in df[‘color’]: if ‘、’ in colors: all_colors.extend(colors.split(‘、’)) else: all_colors.append(colors) color_counts pd.Series(all_colors).value_counts() color_counts.plot(kind‘bar’, colorsns.color_palette(“husl”, len(color_counts))) plt.title(‘商品颜色分布’) plt.xlabel(‘颜色’) plt.ylabel(‘商品数量’) plt.xticks(rotation45) plt.tight_layout() plt.savefig(‘color_distribution.png’, dpi300) plt.show() # 2. 款式风格分布饼图 plt.figure(figsize(8, 8)) all_styles [] for styles in df[‘style’]: if ‘、’ in styles: all_styles.extend(styles.split(‘、’)) else: all_styles.append(styles) style_counts pd.Series(all_styles).value_counts() plt.pie(style_counts.values, labelsstyle_counts.index, autopct‘%1.1f%%’, startangle90) plt.title(‘商品款式风格分布’) plt.tight_layout() plt.savefig(‘style_distribution.png’, dpi300) plt.show() # 3. 颜色与款式的关联热力图交叉表 # 简化处理只取每个商品第一个识别到的颜色和款式 df[‘primary_color’] df[‘color’].apply(lambda x: x.split(‘、’)[0]) df[‘primary_style’] df[‘style’].apply(lambda x: x.split(‘、’)[0]) cross_tab pd.crosstab(df[‘primary_color’], df[‘primary_style’]) plt.figure(figsize(10, 8)) sns.heatmap(cross_tab, annotTrue, fmt‘d’, cmap“YlOrRd”, linewidths.5) plt.title(‘颜色与款式关联热力图’) plt.xlabel(‘款式’) plt.ylabel(‘颜色’) plt.tight_layout() plt.savefig(‘color_style_heatmap.png’, dpi300) plt.show() print(“可视化图表已生成并保存为PNG文件。”) # 主流程加载分析结果提取标签生成图表 if __name__ “__main__”: # 加载上一步保存的分析结果 results_df pd.read_csv(“product_analysis_results.csv”) # 提取标签 df_with_tags extract_tags_from_descriptions(results_df) df_with_tags.to_csv(“product_analysis_with_tags.csv”, indexFalse) print(“标签提取完成数据已保存。”) # 生成可视化图表 create_visualizations(df_with_tags)运行这段代码后你会得到三张图一张展示了哪种颜色的帆布鞋最多一张饼图显示了不同风格如休闲、运动的占比还有一张热力图揭示了颜色和风格之间的组合关系比如是不是白色更常与“简约”风格同时出现。这些图表就是我们从海量商品图片中挖掘出的市场趋势洞察。6. 总结走完这一整套流程你会发现将Python爬虫和视觉语言模型结合能打开一扇新的大门。我们不再需要人工去一张张看图、做笔记而是构建了一个自动化的分析管道。从网络抓取原始图片到AI模型进行智能理解并生成描述性文本再到最后的数据清洗和可视化呈现整个过程虽然涉及多个步骤但每一步的代码都不算复杂。这种方法的优势很明显。首先是效率批量处理几百张图片也就是跑一段脚本的时间。其次是客观模型的分析基于图像内容本身减少了人为的主观偏差。最后是深度我们可以从非结构化的图片中提取出结构化的数据维度颜色、款式等并进行量化分析这是传统人工浏览很难做到的。当然这个实战示例还有很多可以优化的地方。比如关键词提取可以做得更智能用上正则表达式或者更轻量级的NLP模型对于模型生成描述的格式可以设计更精准的提示词让输出更规整方便解析在可视化方面也可以加入时间维度分析趋势变化。如果你对某个品类比如服装、家具、美食的市场分析感兴趣完全可以套用这个框架。换个爬虫目标调整一下分析问题中的关键词你就能得到一份全新的市场分析报告。技术的目的就是如此把复杂的、重复的工作交给程序让我们能更专注于思考和决策。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。