算子清单
更新时间:2026-10-29
本表汇总 436 个平台算子,帮助您快速筛选适配业务场景的算子。
| 中文名称 | 算子类型 | 算子中文类型 | 算子模态 | 数据治理类型 | 算子描述 | 模型类型 | 模型服务名称 | 模型服务显存占用(GB) | 模型服务CPU核心数量 | 模型服务稳态运行占用内存(GB) |
|---|---|---|---|---|---|---|---|---|---|---|
| 视频目录扫描 | Extractor | 抽取 | 视频 | 数据集成 | 扫描指定目录下的所有视频文件 | - | ||||
| 视频抽帧 | Extractor | 抽取 | 视频 | 数据清洗 | 根据抽帧数量对视频均匀抽帧或根据视频长度百分比采样点列表对视频抽帧,抽帧后的图像压缩为jpg数据输出 | - | ||||
| PDF内容提取 | Extractor | 抽取 | 文档 | 数据理解 | 提取pdf文件内容,支持对文本、表格、图片(使用OCR模型提取文本)的内容提取 | 多模态 | document-parser_vl_1b_bf16 | 32 | 12 | 24 |
| Excel内容提取 | Extractor | 抽取 | 文档 | 数据理解 | 提取excel文件内容,支持对excel文件中多个sheet、普通单元格、合并单元格、图片的提取 | - | ||||
| 网页内容提取 | Extractor | 抽取 | 文档 | 数据理解 | 从html文件中提取出网页标题、描述、作者、链接地址、网站名称和内容共6种信息 | - | ||||
| 视频关键帧提取 | Extractor | 抽取 | 视频 | 数据清洗 | 提取视频文件的关键帧,将关键帧存储为jpeg文件 | - | ||||
| DOCX内容提取 | Extractor | 抽取 | 文档 | 数据理解 | 提取docx/doc格式文件内容,支持对文本、表格、图片的内容进行提取 | 多模态 | document-parser-docx_vl_1b_bf16 | 32 | 12 | 24 |
| 文件搜集 | Extractor | 抽取 | 其它 | 数据集成 | 遍历Volume目录收集指定后缀的文件 | - | ||||
| PPT内容提取 | Extractor | 抽取 | 文档 | 数据理解 | 提取ppt内容,支持对文本、表格、图片(使用OCR模型提取文本)的内容提取 | 多模态 | document-parser-ppt_vl_1b_bf16 | 32 | 12 | 24 |
| 图片内容提取 | Extractor | 抽取 | 图片 | 数据理解 | 提取图片文件内容为markdown格式,支持对文本、表格、公式的内容提取 | 多模态 | document-parser_vl_1b_bf16 | 32 | 12 | 24 |
| LeRobot数据集收集 | Extractor | 抽取 | 其它 | 数据集成 | 递归遍历指定路径下的所有子文件夹,按照lerobot数据集格式的特征收集lerobot数据集,支持v2.0/v2.1/v3.0格式 | 1 | 2 | |||
| 数据列过滤 | Filter | 过滤 | 其它 | 数据清洗 | 按给定列去除满足条件的行 | - | ||||
| 文本行平均长度过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据参数对文本的平均行长度(字符数量)超过指定范围的文本进行过滤 | - | ||||
| 字符重复率过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据参数对字符重复率超过指定范围的文本进行过滤 | - | ||||
| 敏感词过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据参数对包含敏感词的文本进行过滤 | - | ||||
| 文本长度过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据参数对文本长度(字符数量)超过指定范围的文本进行过滤 | - | ||||
| 文本语言类别过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据参数对过滤非指定语言文本 | NLP | ||||
| 文本词语数量过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据文本词语数量对文本进行过滤 | - | ||||
| 文本词语重复率过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据文本词语重复率对文本进行过滤 | - | ||||
| 文本困惑度过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据文本词语困惑度对文本进行过滤 | - | ||||
| 图片不适宜内容过滤 | Filter | 过滤 | 图片 | 数据清洗 | 根据图片内容是否适合工作环境查看对图片进行过滤 | 视觉 | nsfw_vision_0.2b_fp16 | 2 | ||
| 文本停止词过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据文本停止词比例对文本进行过滤 | - | ||||
| 文本句子长度过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据文本句子长度对文本进行过滤,指定长度的句子的比例在指定范围内的文本才会被保留 | - | ||||
| 图片文本匹配度过滤 | Filter | 过滤 | 图片 | 数据清洗 | 计算输入的图片和文本的匹配长度,过滤掉匹配度范围外的图片和文本对 | 多模态 | itm_vl_0.5B_fp16 | 3 | ||
| 文本垃圾短信过滤 | Filter | 过滤 | 文本 | 数据清洗 | 对中文文本中的垃圾短信内容进行过滤 | 大语言 | text-moderation-rubbish_0.1b_fp16 | 2 | ||
| 文本涉习过滤 | Filter | 过滤 | 文本 | 数据清洗 | 对中文文本中涉及到最高领导人习的负面信息进行过滤 | 大语言 | text-moderation-xi_0.1b_fp16 | 2 | ||
| 文本涉政过滤 | Filter | 过滤 | 文本 | 数据清洗 | 对中文文本中涉及到国家政治相关的负面信息进行过滤,尤其是涉及到台湾香港的政治政策 | 大语言 | text-moderation-politic_0.1b_fp16 | 2 | ||
| 文本涉领土过滤 | Filter | 过滤 | 文本 | 数据清洗 | 对中文文本中涉及到国家领土相关的负面信息进行过滤,尤其是涉及到台湾相关的祖国统一负面信息 | 大语言 | text-moderation-territory_0.1b_fp16 | 2 | ||
| 文本涉歧视过滤 | Filter | 过滤 | 文本 | 数据清洗 | 对中文文本中涉及到地域歧视相关的信息进行过滤 | 大语言 | text-moderation-discrim_0.1b_fp16 | 2 | ||
| 文本脏数据过滤 | Filter | 过滤 | 文本 | 数据清洗 | 对文本中的脏数据进行过滤,脏数据一般为垃圾短信、广告等 | 大语言 | text-moderation-dirty_0.1b_fp16 | 2 | ||
| 文本句子困惑度过滤 | Filter | 过滤 | 文本 | 数据清洗 | 根据文本句子困惑度对文本进行过滤 | - | ||||
| 图片美学得分过滤 | Filter | 过滤 | 图片 | 数据清洗 | 根据画面美学得分对图片进行过滤 | 视觉 | aes-eval_vision_0.1b_fp16 | 2 | ||
| 图片宽高比过滤 | Filter | 过滤 | 图片 | 数据清洗 | 根据画面宽高比对图片进行过滤 | - | ||||
| 图片宽高过滤 | Filter | 过滤 | 图片 | 数据清洗 | 根据画面的宽度和高度范围对图片进行过滤 | - | ||||
| 图片文件大小过滤 | Filter | 过滤 | 图片 | 数据清洗 | 根据图片文件的字节数量对图片进行过滤 | - | ||||
| 视频美学得分过滤 | Filter | 过滤 | 视频 | 数据清洗 | 根据多帧画面美学得分对视频进行过滤 | 视觉 | aes-eval_vision_0.1b_fp16 | 2 | ||
| 视频长度过滤 | Filter | 过滤 | 视频 | 数据清洗 | 根据视频时间长度对视频进行过滤 | - | ||||
| 视频不适宜内容过滤 | Filter | 过滤 | 视频 | 数据清洗 | 根据视频内容是否适合工作环境查看对视频进行过滤 | 视觉 | nsfw_vision_0.2b_fp16 | 2 | ||
| 视频宽高过滤 | Filter | 过滤 | 视频 | 数据清洗 | 根据视频画面的宽度和高度范围对视频进行过滤 | - | ||||
| 视频运动得分过滤 | Filter | 过滤 | 视频 | 数据清洗 | 采用稠密光流计算画面运动得分对视频进行过滤 | 视觉 | ||||
| 文本名词数量过滤 | Filter | 过滤 | 文本 | 数据清洗 | 对输入的文本数据(中文或英文)进行分词,根据分词后的名词数量对文本进行过滤 | NLP | word-cut_nlp_0.1b_fp16 | 1 | ||
| 音频文件大小过滤 | Filter | 过滤 | 音频 | 数据清洗 | 根据音频文件的字节数量对音频文件进行过滤 | - | ||||
| 图片人脸数量过滤 | Filter | 过滤 | 图片 | 数据清洗 | 对图片做人脸检测并根据参数对人脸数量不符合条件的图片进行过滤 | 视觉 | ||||
| 图片最大人脸面积过滤 | Filter | 过滤 | 图片 | 数据清洗 | 对图片做人脸检测并根据参数对最大人脸面积不符合条件的图片进行过滤 | 视觉 | ||||
| 图片水印过滤 | Filter | 过滤 | 图片 | 数据清洗 | 对图片做水印检测,将包含水印的图片过滤掉 | 视觉 | watermark_vision_0.1b_fp16 | 1 | ||
| 数值字段过滤 | Filter | 过滤 | 其它 | 数据清洗 | 对指定的数值类别字段进行过滤,支持多级字段,例如对音频信息提取算子的音频时长进行过滤可以设置字段名称为dbmeta__.duration | - | ||||
| 文本动词数量过滤 | Filter | 过滤 | 文本 | 数据清洗 | 对输入的文本数据(中文或英文)进行分词,根据分词后的动词数量对文本进行过滤 | - | word-cut_nlp_0.1b_fp16 | 1 | ||
| 文本Token数量过滤 | Filter | 过滤 | 文本 | 数据清洗 | 对输入的文本计算token,根据token数量对文本进行过滤 | NLP | ||||
| 视频水印过滤 | Filter | 过滤 | 视频 | 数据清洗 | 对视频做水印检测,将包含水印的视频过滤掉 | 视觉 | watermark_vision_0.1b_fp16 | 1 | ||
| 音频信噪比过滤 | Filter | 过滤 | 音频 | 数据清洗 | 使用非负矩阵分解方法对音频数据计算信噪比根据参数对音频数据进行过滤 | - | ||||
| 文件正则过滤 | Filter | 过滤 | 其它 | 数据清洗 | 根据文件名正则表达式和一级文件夹正则表达式过滤文件。 | |||||
| 字段过滤 | Filter | 过滤 | 其它 | 数据清洗 | 对指定的数值类别字段进行过滤,检测该子酸的值是否在给定的值列表内。支持多级字段,例如对音频信息提取算子的音频时长进行过滤可以设置字段名称为dbmeta__.duration | - | ||||
| 视频宽高比过滤 | Filter | 过滤 | 视频 | 数据清洗 | 根据画面宽高比对视频进行过滤 | - | ||||
| 图片coco标注过滤 | Filter | 过滤 | 图片 | 数据清洗 | 根据过滤参数对coco标注格式进行过滤,支持根据背景类别过滤前景类别 | - | ||||
| 视频过滤 | Filter | 过滤 | 视频 | 数据清洗 | 判断长视频是否符合输入的标签或者描述,过滤掉不符合的视频 | 多模态 | qfan_vl_27b_instruct_bf16 | 16 | ||
| 已处理结果过滤 | Filter | 过滤 | 其它 | 数据清洗 | 扫描 filter_path 下所有 json/jsonl 文件,收集指定字段的值集合作为过滤内容,对样本按 file_key 命中与否进行过滤;reverse=True 时行为反转,仅保留命中的样本 | - | ||||
| 含马赛克图片过滤 | Filter | 过滤 | 图片 | 数据清洗 | 过滤包含马赛克的图片,并支持反向 | 视觉 | mosaic-detect_vision_0.1b_fp32 | 1 | ||
| 关键词文本过滤 | Filter | 过滤 | 文本 | 数据清洗 | 过滤包含关键词的文本 | |||||
| 文本正则过滤算子 | Filter | 过滤 | 文本 | 数据清洗 | 根据正则表达式对文本进行过滤 | |||||
| 视频图片美学评估 | Transformer | 处理 | 多模态 | 质量评估 | 根据视频和图片的画面信息进行美学评估,分值越高画面越优美 | 视觉 | aes-eval_vision_0.1b_fp16 | 2 | ||
| 视频图片和文本匹配评估 | Transformer | 处理 | 多模态 | 质量评估 | 对输入的视频或图片跟输入的文本计算匹配得分 | 多模态 | itm_vl_0.5B_fp16 | 3 | ||
| 画面文字密集度评估 | Transformer | 处理 | 多模态 | 质量评估 | 对输入的视频或图片中的文字进行检测,画面中文字越密集得分越高 | 视觉 | ocr-det_vision_0.1b_fp16 | 1 | ||
| 视频光流评估 | Transformer | 处理 | 视频 | 质量评估 | 对输入视频计算光流得分 | 视觉 | optical-flow_vision_0.1b_fp16 | 6 | ||
| 视频Pllava字幕生成 | Transformer | 处理 | 视频 | 数据合成 | 使用Pllava模型对视频生成字幕,只能生成英文字幕 | 视觉 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频信息提取 | Transformer | 处理 | 视频 | 数据标注 | 提取视频信息(帧数、高度、宽度、长宽比、帧率、帧率和像素值) | - | ||||
| 视频场景分割器 | Transformer | 处理 | 视频 | 数据清洗 | 根据输入的场景时间戳信息将视频按照场景切分为多个子视频,此算子仅输出一个videos列 | - | ||||
| 视频场景检测 | Transformer | 处理 | 视频 | 数据标注 | 对输入的视频进行场景检测,以起止时间戳方式输出检测到的场景列表 | |||||
| 文本分块 | Transformer | 处理 | 文本 | 数据清洗 | 根据参数对文本进行分块,支持对pdf内容解析算子返回的json格式字符串的文本类别(文本/表格/图像)分块 | - | ||||
| 视频人脸模糊 | Transformer | 处理 | 视频 | 数据合成 | 对视频中的人脸进行检测,将检测到的人脸进行模糊处理保护隐私 | 视觉 | ||||
| 视频去水印 | Transformer | 处理 | 视频 | 数据增强 | 根据ROI参数对视频画面进行去水印处理 | - | ||||
| 视频宽高比调整 | Transformer | 处理 | 视频 | 数据增强 | 根据参数对视频的宽高比进行调整,将视频宽高比保持在合理范围内 | - | ||||
| 视频分辨率调整 | Transformer | 处理 | 视频 | 数据增强 | 根据参数对视频的宽和高进行调整,将视频的宽和高保持在合理范围内 | - | ||||
| 视频理解 | Transformer | 处理 | 视频 | 数据理解 | 根据参数对视频做舆情分析(暴力/负面/伤亡/猥亵等)、情感分析(正/负)、风险识别(打架/火灾/交通事故/群众维权/校园霸凌等) | 多模态 | ||||
| 去除非中文字符 | Transformer | 处理 | 文本 | 数据增强 | 根据参数将文本数据中的非中文字符去除,可以通过设置是否保留数字、字母、标点符号 | - | ||||
| 去除邮箱 | Transformer | 处理 | 文本 | 数据增强 | 根据参数将文本中的邮箱进行清除(支持替换为指定字符串) | - | ||||
| 中文繁简体转换 | Transformer | 处理 | 文本 | 数据增强 | 根据参数将中文进行简体和繁体间的互转(繁体支持台湾、香港、粤语),转换时支持做语义转换,例如s2twp模式时,简体的【鼠标】会翻译为繁体的【滑鼠】 | - | ||||
| 去除版权 | Transformer | 处理 | 文本 | 数据增强 | 将文本中的版权相关信息进行删除,同时会对特殊字符开始的文本也删除(# // --),目的是删除版权相关解释信息 | - | ||||
| 去除HTML | Transformer | 处理 | 文本 | 数据增强 | 将文本中的HTML相关信息去除,不是将网页地址链接去掉,去掉的是HTML语法相关的信息,例如<\p> | - | ||||
| 去除IP | Transformer | 处理 | 文本 | 数据增强 | 将文本中的IP去掉,支持IPV4和IPV6 | - | ||||
| 去除链接 | Transformer | 处理 | 文本 | 数据增强 | 根据参数将文本中的链接(http网址、ftp地址)去掉,支持将链接替换为指定的字符串 | - | ||||
| 修复乱码 | Transformer | 处理 | 文本 | 数据增强 | 根据参数将文本中的乱码进行修复,支持将无效的乱码删除或者将乱码校正为正确的字符 | - | ||||
| 图片模糊 | Transformer | 处理 | 图片 | 数据合成 | 根据参数对图片做整体模糊处理,支持随机对图像列表中的图像进行模糊处理 | - | ||||
| 图片人脸模糊 | Transformer | 处理 | 图片 | 数据合成 | 对图片中的人脸进行检测,将检测到的人脸进行模糊处理保护隐私 | 视觉 | ||||
| 规范化标点符号 | Transformer | 处理 | 文本 | 数据增强 | 对文本中的Unicode标点符号转换为英文标点符号 | - | ||||
| 去除指定长度单词 | Transformer | 处理 | 文本 | 数据增强 | 根据参数将文本中指定长度的单词去掉,根据空白字符对文本进行单词分割,如果是中文一个中文算一个字符 | - | ||||
| 去除重复句子 | Transformer | 处理 | 文本 | 数据增强 | 根据参数将文本中指定长度的重复句子去掉,支持中文和英文 | - | ||||
| 去除指定字符 | Transformer | 处理 | 文本 | 数据增强 | 根据参数将文本中指定字符去除,一般用于去除无意义的字符(例如◆●■►▼▲▴∆▻▷❖♡□) | - | ||||
| 去除指定单词词语 | Transformer | 处理 | 文本 | 数据增强 | 根据参数将文本中包含指定子字符串的单词(en)或词语(zh)去除,中文非分词模式使用空白字符将输入文本切分为词语 | - | ||||
| 替换文本内容 | Transformer | 处理 | 文本 | 数据清洗 | 根据参数对文本中符合替换格式的内容进行替换 | - | ||||
| 规范化空白字符 | Transformer | 处理 | 文本 | 数据增强 | 将文本中的各种unicode空白字符和制表符(\t)规范化为0x20表示的空格 | - | ||||
| 音频添加高斯噪声 | Transformer | 处理 | 音频 | 数据合成 | 按照指定比例对音频文件添加高斯噪声 | - | ||||
| 音频FFMPEG滤波包装 | Transformer | 处理 | 音频 | 数据增强 | 通过对ffmpeg库进行封装,提供使用ffmpeg进行音频滤波功能 | - | ||||
| 文本QA对校准 | Transformer | 处理 | 文本 | 数据增强 | 根据输入的文本信息对查询和回答进行校准 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本QA查询校准 | Transformer | 处理 | 文本 | 数据增强 | 根据输入的文本信息对查询进行校准 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本QA回答校准 | Transformer | 处理 | 文本 | 数据增强 | 根据输入的文本信息对回答进行校准 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本对话意图识别 | Transformer | 处理 | 文本 | 数据标注 | 根据输入的文本历史对话内容识别对话意图,给出意图类别和分析 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本对话话题识别 | Transformer | 处理 | 文本 | 数据标注 | 根据输入的文本历史对话内容识别对话话题,给出话题类别和分析 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本提取实体属性 | Transformer | 处理 | 文本 | 数据标注 | 根据输入的文本提取实体名称、属性、属性描述以及原文中的支持文本片段 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本提取实体关系 | Transformer | 处理 | 文本 | 数据标注 | 根据输入的文本提取实体名称和关系 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本提取事件 | Transformer | 处理 | 文本 | 数据标注 | 根据输入的文本提取事件描述和事件涉及的人物 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本提取关键词 | Transformer | 处理 | 文本 | 数据标注 | 根据输入的文本提取关键词 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本提取昵称 | Transformer | 处理 | 文本 | 数据标注 | 根据输入的文本提取昵称 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本提取支撑观点文本 | Transformer | 处理 | 文本 | 数据标注 | 根据输入的文本和观点,从文本中提取支撑观点的文本片段 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本提取HTML表格 | Transformer | 处理 | 文本 | 数据标注 | 从输入的文本中提取表格 | - | ||||
| 图片去除背景 | Transformer | 处理 | 图片 | 数据增强 | 去除图片中的背景,仅保留主体目标,一般为单主体目标 | 视觉 | ||||
| 图片字幕生成 | Transformer | 处理 | 图片 | 数据合成 | 根据图片内容生成图片描述的字幕文本 | 多模态 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 图片打标签 | Transformer | 处理 | 图片 | 数据标注 | 根据图片内容生成中文和英文词语标签 | 多模态 | image-tagging_vision_1.5b_bf16 | 8 | ||
| 文本去除表情和特殊字符 | Transformer | 处理 | 文本 | 数据增强 | 去除文本中的表情符号emoji以及特殊字符 | - | ||||
| 文本去除非正常结尾句子 | Transformer | 处理 | 文本 | 数据增强 | 去除文本中非正常标点结尾的句子 | - | ||||
| 视频字幕生成 | Transformer | 处理 | 视频 | 数据合成 | 根据视频内容生成视频描述的字幕文本 | 多模态 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本对话情感识别 | Transformer | 处理 | 文本 | 数据标注 | 根据输入的文本历史对话内容识别对话情感,给出情感类别和分析 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 数据写入iceberg | Transformer | 处理 | 其它 | 数据集成 | 将输入算子的数据写入iceberg数据表中,支持自定义字段写入。 | - | ||||
| 文本匿名化 | Transformer | 处理 | 文本 | 数据增强 | 对文本中的手机号、地址、牌照号、网址、IP地址等做匿名化处理 | NLP | text-moderation-anonymize_0.1b_fp16 | 2 | ||
| 文本去除广告 | Transformer | 处理 | 文本 | 数据增强 | 将文本中的广告信息去除 | NLP | text-moderation-adv_0.1b_fp16 | 2 | ||
| 文本词分析去除广告 | Transformer | 处理 | 文本 | 数据增强 | 通过词分析算法去除文本中的广告信息 | NLP | text-moderation-adv-word_0.1b_fp16 | 2 | ||
| 文本去除菜单 | Transformer | 处理 | 文本 | 数据增强 | 去除文本中的菜单信息,一般用于对网页文本数据处理,尤其是对网页小说文本数据处理 | NLP | text-moderation-menu_0.1b_fp16 | 2 | ||
| 文本提取键值对信息 | Transformer | 处理 | 文本 | 数据标注 | 从文本中提取key-value键值对信息,例如从学生信息描述文本中提取出文本中包含的学生姓名、班级、手机号、专业等信息 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频多功能抽帧 | Transformer | 处理 | 视频 | 数据清洗 | 对输入的视频进行均匀抽帧或者关键帧抽帧,支持先对视频先切分再抽帧的高级功能 | - | ||||
| 特征向量入库 | Transformer | 处理 | 其它 | 数据集成 | 将特征向量和相关文本信息入库到向量数据库(doris)中,用于后续的检索场景(比如RAG应用) | - | ||||
| 图片开放世界检测 | Transformer | 处理 | 图片 | 数据标注 | 对输入的图片做开放世界目标检测,检测结果以标准coco格式输出 | 视觉 | owd_vision_0.6b_fp16 | 12 | ||
| 图片coco标注可视化 | Transformer | 处理 | 图片 | 数据标注 | 根据输入的图片和对应的coco格式标注信息,将检测信息画在图像上做可视化查看。 | - | ||||
| 图片开放世界分割 | Transformer | 处理 | 图片 | 数据标注 | 对输入的图片做开放世界分割,分割结果以标准coco格式输出 | 视觉 | ows_vision_0.8b_fp16 | 16 | ||
| 图片文本引导修复 | Transformer | 处理 | 图片 | 数据合成 | 根据输入的文本生成新的物体,将生成的物体融合到背景图片上的指定区域(MASK指定),如果背景图片上指定区域有前景物体,物体会被替换为新的物体 | 多模态 | inpainting_vision_4b_bf16 | 48 | ||
| 文本QA回答偏好配对 | Transformer | 处理 | 文本 | 数据合成 | 根据参考文本(可选)和输入QA对,生成和输入回答立场、风格、事实相反的偏好回答 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 自动语音识别 | Transformer | 处理 | 音频 | 数据理解 | 对输入的中文和英文音频文件进行语音识别,输出识别后的文本结果 | 音频 | asr_audio_7b_bf16 | 27 | ||
| 文本编码转换 | Transformer | 处理 | 文本 | 数据清洗 | 对文本文件的编码进行转换,支持txt/json/html文件格式 | - | ||||
| 文本提取QA对 | Transformer | 处理 | 文本 | 数据合成 | 分析输入的文本内容,自动提取出若干问答对 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本主题识别 | Transformer | 处理 | 文本 | 数据标注 | 分析输入的文本内容,使用大语言模型识别并提取文本主题,支持将文本按照预置主题进行分类 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 多语言自动语音识别 | Transformer | 处理 | 音频 | 数据理解 | 对输入的音频文件进行语音识别,支持中、英、法、意、日、韩、阿拉伯等90+语言识别,输出识别后的文本结果 | 音频 | ml-asr_audio_1.5b_bf16 | 11 | ||
| 音频多语言类别识别 | Transformer | 处理 | 音频 | 数据标注 | 对输入的音频文件进行语言类别识别,支持中、英、法、意、日、韩、阿拉伯等90+语言类别识别,输出识别后的语言名称 | 音频 | audio-lang-det_audio_1.5b_bf16 | 12 | ||
| 文本内容完整性评估 | Transformer | 处理 | 文本 | 质量评估 | 对输入的文本从核心信息和要素完整性、逻辑连贯性、细节丰富程度进行完整性评估,划分为4个等级,等级越高内容完整性越高 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本内容困难度评估 | Transformer | 处理 | 文本 | 质量评估 | 对输入的文本从语义理解的角度进行困难度评估,专业性越强、隐喻典故越多困难度越高,划分为5个等级,等级越高内容困难度越高 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本信息密度评估 | Transformer | 处理 | 文本 | 质量评估 | 对输入的文本进行平均词长句长、核心要素、冗余度、逻辑性等方面进行综合打分划分为5个等级,等级越高信息密度越大 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 图片超分辨率 | Transformer | 处理 | 图片 | 数据增强 | 对输入的图片做4倍超分辨率,超分辨率处理后输出的图片宽和高分别是原始图像的4倍,生成的图像存储为png格式图片 | 视觉 | image-sr_vl_13b_bf16 | 48 | ||
| 文本打语义标签 | Transformer | 处理 | 文本 | 数据标注 | 对输入的文本提取主题和情感标签,主题标签为科技、教育、健康、娱乐、财经、体育、旅游、军事、汽车、时尚、房产、历史、育儿、游戏、宗教、民生;情感为正面、中性和负面,结果以json格式输出 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本权威性评估 | Transformer | 处理 | 文本 | 质量评估 | 对输入的文本从来源、内容质量、引用方面进行权威性评估,划分为5个等级,等级越高权威性越高,同时输出评估依据信息,结果以json格式输出 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本时效性评估 | Transformer | 处理 | 文本 | 质量评估 | 对输入的文本提取时间信息(显式时间戳、时间性关键词、隐含时间等信息)对文本内容进行综合判断,时效性划分为5个等级,等级越高时效性越高,同时输出时效性评估依据,结果以json格式输出 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本自定义提示词提取问题 | Transformer | 处理 | 文本 | 数据合成 | 根据自定义用户提示词从输入文本中提取一个或多个问题,这里的提示词为用户提示词(user_prompt),为了方便和其它算子串联使用和对格式做统一处理,对提示词做如下2点约束:1. 提示词中必须显示规定返回json格式,格式如下(问题以数组形式记录){"question": [""]},2. 用于提取问题的文本算子会通过变量替换的方式嵌入到提示词中,变量名称固定为db_text_content,提示词中必须包含{db_text_content},下面是一个提示词例子:你是一个文本内容理解的专家,请对以下文本提取3个问题,问题以json格式返回,请勿返回其它额外内容,格式如下:{"question": [""]},文本内容如下:{db_text_content} | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本自定义提示词生成答案 | Transformer | 处理 | 文本 | 数据合成 | 根据自定义用户提示词参考输入文本回答给出的问题,这里的提示词为用户提示词(user_prompt),为了方便和其它算子串联使用和对格式做统一处理,对提示词做如下如下约束:参考文本和问题算子会通过变量替换的方式嵌入到提示词中,参考文本变量名称固定为db_text_content,问题变量名称固定为db_question,提示词中必须包含{db_text_content}和{db_question},下面是一个提示词例子:你是一个文本内容理解的专家,请严格参照给出的文本回答问题,如果文本中没有涉及或无法根据文本回答时,请回复“我不知道”。问题是:{db_question} 文本内容如下:{db_text_content} | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本分词 | Transformer | 处理 | 文本 | 数据清洗 | 对输入的文本进行分词,支持中文和英文,可以根据参数设置是否删除表情、特殊字符等 | NLP | word-cut_nlp_0.1b_fp16 | 1 | ||
| 文本分句 | Transformer | 处理 | 文本 | 数据清洗 | 对输入的文本进行分句,支持中文和英文 | NLP | ||||
| 文本元数据提取 | Transformer | 处理 | 文本 | 数据标注 | 对输入的文本提取标题、作者、发布机构、日期、关键词、语言类别元数据信息 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本质量评估 | Transformer | 处理 | 文本 | 质量评估 | 对输入的文本从准确性、语法、信息量、连贯性多方面进行内容质量评估,评估为5个等级,等级越高质量越高,同时返回质量评估依据 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 音频格式转换 | Transformer | 处理 | 音频 | 数据清洗 | 将输入的音频文件转换为统一的格式,支持wav/mp3/aac/ogg,支持通道数、采样率、比特率设置 | - | ||||
| 音频多功能切分 | Transformer | 处理 | 音频 | 数据清洗 | 将输入的音频文件按照指定长度进行切分,支持切分时同步做格式转换,支持wav/mp3/aac/ogg,支持通道数、采样率、比特率设置 | - | ||||
| webdataset格式解析 | Transformer | 处理 | 文档 | 数据集成 | 从webdataset数据格式中解析出文本和图片信息 | - | ||||
| 文本多语言翻译 | Transformer | 处理 | 文本 | 数据理解 | 根据参数将文本翻译为目标语言,支持约110种常见语言和方言(粤语) | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 数据列选择 | Transformer | 处理 | 其它 | 数据清洗 | 根据输入参数对输入数据进行列选择,保留或丢弃指定的列 | - | ||||
| 文本添加标点符号 | Transformer | 处理 | 文本 | 数据增强 | 根据文本语义对输入的文本添加标点符号,支持多语言,一般用于中文,对英文粘连在一起的单词有一定的分词能力 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 音频情绪情感识别 | Transformer | 处理 | 音频 | 质量评估 | 对输入的音频数据做情绪和情感识别,支持7种情绪(anger、disgust、fear、joy、neutral、sadness、surprise)和3种情感(negative、neutral、positive) | 音频 | audio-emotion_audio_7b_bf16 | 3 | ||
| 音频信息提取 | Transformer | 处理 | 音频 | 数据标注 | 从音频文件中提取出音频编码格式、采样率、比特率、通道数、时长和文件大小信息 | - | ||||
| 文本内容审核 | Transformer | 处理 | 文本 | 质量评估 | 从政治敏感、暴力恐怖、色情低俗、违法犯罪、谣言虚假、歧视仇恨、侵权违规、其他违规共8个方向对输入的文本进行内容审核,违规等级划分为高、中、低三个等级,同时输出审核依据的描述供人工复核 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 音频质量评估 | Transformer | 处理 | 音频 | 质量评估 | 对输入的音频文件进行MOS、SRMR质量指标评测,MOS输出分为1到5共5个等级,等级越高质量越好;SRMR根据值的范围划分为4个等级:<4表示等级差,音频混响严重模糊不清,难以听懂;4~6表示等级中,音频有可察觉的混响,但可听懂;6~8表示等级好,音频比较清晰,混响影响较小;>8表示等级优,音频非常干净,没有混响 | 音频 | audio-qa_audio_0.1b_fp16 | 1 | ||
| 音频数据脱敏 | Transformer | 处理 | 音频 | 数据清洗 | 检测输入的音频数据中是否包含个人信息(如手机号、身份证、年龄、住址等),对音频数据中的个人信息部分进行静音处理 | 多模态 | text-moderation-anonymize_0.1b_fp16 | 2 | ||
| 文本语言检测 | Transformer | 处理 | 文本 | 质量评估 | 对输入的文本进行语言检测,支持90+语言和方言的检测,输出语言id和置信度得分 | NLP | ||||
| 图片人脸检测 | Transformer | 处理 | 图片 | 数据标注 | 对图像中的人脸进行检测,支持小脸/稠密人脸检测 | 视觉 | ||||
| 音频去除背景噪音 | Transformer | 处理 | 音频 | 数据增强 | 对音频数据中的背景噪音进行检测,并对噪音进行去除 | - | ||||
| 音频静音切分 | Transformer | 处理 | 音频 | 数据清洗 | 对音频文件做静音检测并按照静音为分割点对音频文件进行切分 | - | ||||
| 音频去除静音 | Transformer | 处理 | 音频 | 数据增强 | 对音频文件做静音检测并将静音片段去除 | - | ||||
| 文本多语言翻译专业版 | Transformer | 处理 | 文本 | 数据理解 | 多语言翻译专业调优版本,根据参数将文本翻译为目标语言,支持约30种常见语言和方言(粤语) | 大语言 | mt-pro_7b_bf16 | 32 | ||
| 图片文字检测 | Transformer | 处理 | 图片 | 数据理解 | 对图像中的文字进行检测,输出检测框坐标和置信度 | 视觉 | ocr-det_vision_0.1b_fp16 | 1 | ||
| 图片文字识别 | Transformer | 处理 | 图片 | 数据理解 | 对从原始图像中切割下来的仅包含文字的图像进行文字识别 | 视觉 | ocr-rec_vision_0.1b_fp16 | 1 | ||
| 图片文字端到端检测识别 | Transformer | 处理 | 图片 | 数据理解 | 对图像中的文字进行检测和识别,输出包含检测和识别信息的端到端结果 | 视觉 | ocr-e2e_vision_0.2b_fp16 | 1 | ||
| 视频黑屏检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行黑屏检测,以起止时间戳方式输出检测到的黑屏列表 | - | ||||
| 去除指定列数的表格 | Transformer | 处理 | 文本 | 数据清洗 | 根据参数将文本中指定列数的表格去掉,表格至少有两行的表格状字符串,列间使用相同分隔符 | - | ||||
| 文本对话情感强度识别 | Transformer | 处理 | 文本 | 质量评估 | 根据输入的文本历史对话内容分析和标注多轮对话中用户的情感强度,给出情感强度大小和分析,强度范围为[5,-5],5表示正面情绪,-5表示负面情绪。 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频白屏检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行白屏检测,以起止时间戳方式输出检测到的白屏列表 | - | ||||
| 图片物体最小距离 | Transformer | 处理 | 图片 | 数据理解 | 根据输入的coco格式标注信息计算与起始物体离的最近的物体的距离 | - | ||||
| 视频灰度检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行灰度片段检测,以起止时间戳方式输出检测到的灰度片段 | - | ||||
| 数据列重命名 | Transformer | 处理 | 其它 | 数据清洗 | 对一个或多个数据列的key进行重命名 | - | ||||
| 阿里自动语音识别服务 | Transformer | 处理 | 音频 | 数据理解 | 调用阿里的自动语音识别服务将音频文件转换为文本,算子运行的计算实例必须可以链接外网 | 不支持私有化部署,运行需要联网 | ||||
| deepgram自动语音识别服务 | Transformer | 处理 | 音频 | 数据理解 | 调用deepgram的自动语音识别服务将音频文件转换为文本,算子运行的计算实例必须可以链接外网 | 不支持私有化部署,运行需要联网 | ||||
| 人物行为识别 | Transformer | 处理 | 视频 | 数据理解 | 输入拍摄的视频,返回对于人物行为的描述,可自动识别匹配人脸。 | 多模态 | face-embed_vision_0.1b_fp16 qfan_vl_27b_instruct_bf16 | 81 | ||
| 视频亮度异常检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行亮度异常检测,以视频异常信息列表输出 | - | ||||
| 视频对比度异常检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行对比度异常检测,以视频异常信息列表输出 | - | ||||
| 视频偏色异常检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行偏色异常检测,以视频异常信息列表输出 | - | ||||
| 视频异常片段移除 | Transformer | 处理 | 视频 | 数据清洗 | 根据输入的异常片段列表与类型,移除视频中对应的异常片段 | - | ||||
| 视频彩条检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行彩条检测,以起止时间戳方式输出检测到的彩条片段 | - | ||||
| 文本提取自定义字段信息 | Transformer | 处理 | 文本 | 数据清洗 | 根据自定义字段名称和字段描述,从文本中抽取字段的值,可以通过详细和具体的字段描述信息来提高字段值提取的能力和准确率 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 图片coco裁剪算子 | Transformer | 处理 | 图片 | 数据清洗 | 根据输入的图片和对应的coco格式标注信息,coco对应的检测框裁剪为新图像 | - | ||||
| 图片单目深度估计算子 | Transformer | 处理 | 图片 | 数据理解 | 根据输入的图片,输出png,RGBA深度图,其中RGB为伪彩色深度用于可视化,alpha通道用于存储模型输出的深度结果(不同模型深度类型不同,例如Metric3d为真实深度) | 视觉 | depth-estimation_vision_0.8b_fp16 | 4 | ||
| 音频说话人日志算子 | Transformer | 处理 | 音频 | 数据理解 | 对输入的多说话人音频进行时间戳标注,区分不同说话人的语音。 | 音频 | speaker-diarization_audio_0.2b_fp16 | 2 | ||
| 跨页表格合并算子 | Transformer | 处理 | 文本 | 数据增强 | 根据输入的markdown文件,检测文件中跨页表格,并合并跨页表格,输出markdown格式的文件 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 流程图理解算子 | Transformer | 处理 | 图片 | 数据理解 | 根据输入的图片判断是否为流程图,如果不为流程图,输出 该图不是流程图;如果是流程图,生成并输出该图的结构化流程描述文本。 | 多模态 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 自动长音频语音识别算子 | Transformer | 处理 | 音频 | 数据理解 | 对输入的中文和英文长音频文件进行语音识别,输出识别后的文本结果 | 音频 | asr_audio_7b_bf16 | 27 | ||
| 多语言自动长音频语音识别算子 | Transformer | 处理 | 音频 | 数据理解 | 对输入的长音频文件进行语音识别,支持中、英、法、意、日、韩、阿拉伯等90+语言识别,输出识别后的文本结果 | 音频 | ml-asr_audio_1.5b_bf16 | 11 | ||
| 长视频理解算子 | Transformer | 处理 | 视频 | 数据理解 | 根据用户输入的切分视频时长、切分视频重叠时长参数对长视频进行切分并理解,最终形成长视频理解内容 | 多模态 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本连续重复词汇去除算子 | Transformer | 处理 | 文本 | 数据增强 | 根据用户输入的文本,去除连续重复词语,输出去除后的文本 | - | ||||
| 文本双阶段语义分块算子 | Transformer | 处理 | 文本 | 数据清洗 | 先基于语义相似度对文本进行初步切分生成文本块,再对相邻文本块进行二次语义合并,以得到更加连贯、结构更清晰的段落。 | 大语言 | text-embed_7b_bf16 | 32 | ||
| 文本分位阈值语义分块算子 | Transformer | 处理 | 文本 | 数据清洗 | 将长文本切分为若干连续文本块,计算相邻文本块之间的语义相似度。当相邻文本块的语义“距离”高于预设分位阈值时,在该位置进行切分,从而实现基于语义相似度分位阈值的自动文本分段。 | 大语言 | text-embed_7b_bf16 | 32 | ||
| 音频时间拉伸 | Transformer | 处理 | 音频 | 数据增强 | 对于输入的音频,改变音频的播放速度,而不改变音高,用于模拟不同说话速度。 | - | ||||
| 音频添加混叠 | Transformer | 处理 | 音频 | 数据增强 | 混叠是在采样过程中,当采样率低于信号最高频率的两倍时产生的一种严重失真,高频成分会“折叠”到低频区域。对于输入的音频,通过先降采样再升采样的方式,来主动地、可控地引入这种失真。 | - | ||||
| 音频动态范围压缩 | Transformer | 处理 | 音频 | 数据增强 | 对于输入的音频,动态范围压缩调整音频信号的动态范围,模拟不同录音设备和环境下的声音特性。 | - | ||||
| 音频音调偏移 | Transformer | 处理 | 音频 | 数据增强 | 对于输入的音频,在不改变音频时长的前提下,调整音调高低(比如让男声变尖、女声变沉),提升模型对不同音高语音的适配能力。 | - | ||||
| 音频位深度压缩 | Transformer | 处理 | 音频 | 数据增强 | 对于输入的音频,通过降低音频的位深度(如从 16-bit 或 32-bit 浮点数降至 8-bit 整数),模拟低保真度录音设备或有损压缩引入的量化噪声。其原理是将连续的振幅值映射到有限的离散级别上。 | - | ||||
| 音频声音增益 | Transformer | 处理 | 音频 | 数据增强 | 对输入的音频进行声音增益 | - | ||||
| 音频混响 | Transformer | 处理 | 音频 | 数据增强 | 对于输入的音频添加混响 | - | ||||
| 音频带通过滤 | Transformer | 处理 | 音频 | 数据增强 | 对输入的音频,它允许一定范围内的频率通过,同时衰减该范围之外的频率,无论是高频还是低,模拟不同设备(如电话、收音机)的频响特性,让模型适应不同设备录制的音频。 | - | ||||
| 音频低通过滤 | Transformer | 处理 | 音频 | 数据增强 | 对输入的音频,它允许一定低于某个频率,衰减高于该频率范围的声音,让模型学会在高频噪音存在时,依然能识别低频核心信号(如语音的基频、低频乐器的主旋律),避免模型被高频噪音误导。 | - | ||||
| 音频时间偏移 | Transformer | 处理 | 音频 | 数据增强 | 对输入的音频,对音频波形做时间维度的偏移调整。提高模型对起始位置变化的鲁棒性。 | - | ||||
| 音频极性反转 | Transformer | 处理 | 音频 | 数据增强 | 对输入的音频,将波形翻转,正负极性倒置。增强模型对极性不敏感(某些录音设备存在极性反转)。 | - | ||||
| 音频裁切失真 | Transformer | 处理 | 音频 | 数据增强 | 对输入的音频,随机地将一定比例的样本截断/clipping。增强模型对峰值失真、炒麦、爆麦情况的容忍度。 | - | ||||
| 音频反转 | Transformer | 处理 | 音频 | 数据增强 | 将音频波形反转,模拟反向播放的音频 | - | ||||
| 音频响度矫正 | Transformer | 处理 | 音频 | 数据增强 | 将音频的主观响度统一到标准水平,标准使用 LUFS(Loudness Units Full Scale,满刻度响度单位) | - | ||||
| 音频波形混合 | Transformer | 处理 | 音频 | 数据增强 | 将不同音频样本的波形进行混合 | - | ||||
| 音频静音 | Transformer | 处理 | 音频 | 数据增强 | 随机或根据时间戳静音音频中的部分片段 | - | ||||
| 音频均衡 | Transformer | 处理 | 音频 | 数据增强 | 提升或衰减特定频率的声音信号强度,从而改变音色或补偿扬声器/声场的缺陷 | - | ||||
| 音频随机裁剪 | Transformer | 处理 | 音频 | 数据增强 | 从原始音频中随机截取一个固定时长的片段。随机裁剪的核心是训练模型的时间平移不变性。它告诉模型,一个声音事件无论出现在音频的开头、中间还是结尾,都应被识别为同一个事件。 | - | ||||
| 音频翻译算子 | Transformer | 处理 | 音频 | 数据理解 | 根据输入的音频以及翻译的语言,将音频翻译成对应语言的音频 | - | audio-translate_audio_2b_bf16 | 30 | ||
| 音频噪声添加 | Transformer | 处理 | 音频 | 数据增强 | 将音频与背景噪声(人群声、街道声、键盘声等)按混合。让模型在噪音环境中也能保持识别能力,提高鲁棒性 | - | ||||
| 音频相位偏移 | Transformer | 处理 | 音频 | 数据增强 | 音频信号相位角发生指定偏移 | - | ||||
| 音频频域偏移 | Transformer | 处理 | 音频 | 数据增强 | 音频频域偏移是指音频信号在频率维度上的整体偏移,表现为信号频率的升高(上移)或降低(下移) | - | ||||
| 音频预加重 | Transformer | 处理 | 音频 | 数据增强 | 音频预加重通过一阶高通滤波,提升音频高频分量幅值,补偿高频自然衰减,强化高频细节,优化后续特征提取与模型训练效果。 | - | ||||
| 音频立体声宽度调整 | Transformer | 处理 | 音频 | 数据增强 | 调整立体声的声场宽度,模拟不同听音位置或设备差异。 | - | ||||
| 音频频率掩膜 | Transformer | 处理 | 音频 | 数据增强 | 对于输入的音频遮挡的特定频率区域。 | - | ||||
| 音频距离衰减模拟 | Transformer | 处理 | 音频 | 数据增强 | 模拟空气对高频的衰减(远距离录音衰减更多高频)。让模型学习远距离录音和设备衰减的现实效果。 | - | ||||
| 音频能量归一化 | Transformer | 处理 | 音频 | 数据增强 | 能量归一化确保所有音频样本具有一致的能量水平,避免模型受音量差异干扰。 | - | ||||
| 音频添加有色噪声 | Transformer | 处理 | 音频 | 数据增强 | 为传入的音频添加pink/brown/blue/white 噪声,模拟频谱结构化噪声(如空调、交通),优于白噪声的贴近性。 - white 白噪声:功率谱密度近似常数,所有频率能量相当;常用于基线鲁棒性测试与简单增广 - pink 粉噪声:1/f 分布,低频能量更强、每倍频程能量更均衡;更贴近自然环境与人耳感知 - brown 棕噪声(又称 red/布朗噪):1/f²,进一步强调低频;接近风噪、低频轰鸣、远距离设备共振 - blue 蓝噪声:1/f⁻¹,高频能量更强;接近话筒底噪、电子“嘶声”、编码伪影/混叠的高频成分 | - | ||||
| 音频文本时间戳对齐 | Transformer | 处理 | 音频 | 数据标注 | 对齐音频和文本,为文本生成字符级时间戳。 | 音频 | audio-text-align_audio_0.6b_bf16 | 2 | ||
| 音频声道交换 | Transformer | 处理 | 音频 | 数据增强 | 随机交换音频声道,模拟麦克风位置变化。 | - | ||||
| 音频声道混合 | Transformer | 处理 | 音频 | 数据增强 | 将音频转换为指定数量声道的音频,从而实现音频的上混和下混。 | - | ||||
| 音频声道静音 | Transformer | 处理 | 音频 | 数据增强 | 随机静音音频的某些声道,模拟传感器故障 | - | ||||
| 音频多说话人语音识别 | Transformer | 处理 | 音频 | 数据理解 | 根据输入的多人对话音频如会议等,生成stm格式的多人对话转录文本。 | 音频 | multi-speaker-asr_audio_1b_bf16 | 122 | ||
| 文本转音频算子 | Transformer | 处理 | 文本 | 数据合成 | 根据输入的文本,转成对应的音频 | 音频 | tts_audio_0.5b_bf16 | 8 | ||
| 音频多人会话生成 | Transformer | 处理 | 音频 | 数据增强 | 用户提供多人对话记录和相关说话人(最多九个说话人)的音频文件,进行声音克隆并生成对话记录对应的语音音频,支持长对话语音生成。 | 音频 | audio-multi-dialog-gen_audio_2b_bf16 | 6 | ||
| 音频分段重排 | Transformer | 处理 | 音频 | 数据增强 | 将音频切成n段,随机打乱音频顺序 | - | ||||
| 音频谐波脉冲分离 | Transformer | 处理 | 音频 | 数据增强 | 分离出音频中的谐波部分(人声)和脉冲部分(背景噪声/打击乐),按比例混合。算子输出3个音频:谐波分量、脉冲分量、比例混合音频。 | - | ||||
| 音频开放事件检测 | Transformer | 处理 | 音频 | 数据标注 | 识别输入的音频的事件并输出对应的时间戳 | 音频 | audio-open-vocabulary-event-detection_audio_1.4b_fp32 | 9 | ||
| 音频语音分离 | Transformer | 处理 | 音频 | 数据增强 | 根据描述将描述的对应的音频从输入音频中提取出来,输出目标音频,以及剩余的音频 | 音频 | audio-open-vocabulary-separation_audio_3b_fp32 | 17 | ||
| 音频乐器分离 | Transformer | 处理 | 音频 | 数据增强 | 分离音频中对应的乐器的的音轨,输出的音频根据要求输出对应乐器的音频或剩余内容的音频 | 音频 | audio-open-vocabulary-separation_audio_3b_fp32 | 17 | ||
| 音频打标签 | Transformer | 处理 | 音频 | 数据标注 | 检测输入的音频可能存在的事件,输出事件标签,以及对应标签的时间戳 | 音频大模型 | audio-open-vocabulary-event-detection-tagging_audio_1.4b_fp32 | 7 | ||
| 音频去背景音乐 | Transformer | 处理 | 音频 | 数据增强 | 去除输入音频中的背景音乐,只针对音乐。 | 音频大模型 | audio-open-vocabulary-separation_audio_3b_fp32 | 17 | ||
| 音频问答 | Transformer | 处理 | 音频 | 数据理解 | 根据用户输入的音频以及提示词,可以回答用户关于音频的问题 | 音频大模型 | audio-caption_audio_7b_bf16 | 25 | ||
| 音频理解 | Transformer | 处理 | 音频 | 数据理解 | 提取音频文件的详细内容,支持wav、mp3等格式的音频文件 | 音频大模型 | audio-caption_audio_7b_bf16 | 25 | ||
| 音频动态响度均衡 | Transformer | 处理 | 音频 | 数据增强 | 根据波形,实时调整音频增益,在提升音量的同时,保留局部时间段内的动态对比。 | - | ||||
| 视频关键帧切分 | Transformer | 处理 | 视频 | 数据清洗 | 根据关键帧边界将视频数据分割为多个片段。 | - | ||||
| 文件解压缩 | Transformer | 处理 | 其它 | 数据集成 | 解压缩文件,支持多种压缩格式(zip, rar, 7z, tar, gz, bz2, tar.gz, tar.bz2, xz, tar.xz),支持层级解压 | - | ||||
| 文本会议todo总结 | Transformer | 处理 | 文本 | 数据理解 | 对输入的多说话人ASR的文本总结最后TODO的结果。 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 音频语音分离 | Transformer | 处理 | 音频 | 数据增强 | 从输入音频中的语音音频提取出来。 | 音频 | audio-open-vocabulary-separation_audio_3b_fp32 | 17 | ||
| 音频说话人属性 | Transformer | 处理 | 音频 | 数据标注 | 提取音频文件中说话人的属性:说话人数量、性别、年龄区间 | 音频 | speaker-diarization_audio_0.2b_fp16 audio-speaker-attribute_audio_0.1b_fp32 | 4 | ||
| 语音增强 | Transformer | 处理 | 音频 | 数据增强 | 降低音频中的背景噪声,提升语音清晰度与可懂度 | 音频 | audio-noise-reduction_audio_2m_fp32 | 1 | ||
| 说话人验证 | Transformer | 处理 | 音频 | 数据理解 | 对目标音频与查询音频进行说话人相似度计算。 | 音频 | audio-speaker-verification_audio_30m_fp32 | 4 | ||
| 文本摘要 | Transformer | 处理 | 文本 | 数据理解 | 生成输入文本的摘要。 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频摘要 | Transformer | 处理 | 视频 | 数据理解 | 根据输入的视频文件生成视频摘要文本 | 多模态 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频打标签 | Transformer | 处理 | 视频 | 数据标注 | 根据输入的视频文件生成视频标签 | 多模态 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本分段 | Transformer | 处理 | 文本 | 数据清洗 | 对文本进行分段,输出分段结果 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 列子字段合并 | Transformer | 处理 | 其它 | 数据清洗 | 根据指定的子字段合并数据列并输出合并结果 | - | ||||
| 文本会议摘要 | Transformer | 处理 | 文本 | 数据理解 | 对输入的多说话人ASR的文本生成摘要。 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本会议分段 | Transformer | 处理 | 文本 | 数据清洗 | 对输入的多说话人ASR的文本基于话题内容进行分段。 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本会议主题 | Transformer | 处理 | 文本 | 数据理解 | 对输入的多说话人ASR的文本提取会议主题。 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 图片文字识别端到端检测识别专业版 | Transformer | 处理 | 图片 | 数据标注 | 对图像中的文字进行检测和识别,输出包含检测和识别信息的端到端结果,支持中文英文日语等多种语言 | 多模态 | ocr-e2e-pro_vl_1b_bf16 | 32 | ||
| 图片灰度检测 | Transformer | 处理 | 图片 | 质量评估 | 对输入的图片进行灰度检测,输出包含异常类别、分数信息的列表 | - | ||||
| 图片偏色检测 | Transformer | 处理 | 图片 | 质量评估 | 对输入的图片进行偏色检测,输出包含异常类别、分数信息的列表 | - | ||||
| 图片对比度异常检测 | Transformer | 处理 | 图片 | 质量评估 | 对输入的图片进行对比度检测,输出包含异常类别、分数信息的列表 | - | ||||
| 图片亮度异常检测 | Transformer | 处理 | 图片 | 质量评估 | 对输入的图片进行检测,过滤亮度异常(过亮/过暗)的图片 | - | ||||
| 图片彩条检测 | Transformer | 处理 | 图片 | 质量评估 | 对输入的图片进行彩条检测,输出包含异常类别、分数信息的列表 | - | ||||
| 图片单色检测 | Transformer | 处理 | 图片 | 质量评估 | 对输入的图片进行单色检测,输出包含主要色彩rgb(16进制)、所占比例信息的列表 | - | ||||
| 图片分块hash提取 | Transformer | 处理 | 图片 | 数据清洗 | 使用分块hash算法对图片进行hash提取 | - | ||||
| 视频相邻帧聚类 | Transformer | 处理 | 视频 | 数据清洗 | 对输入的视频,基于相邻帧进行聚类分段 | - | ||||
| 图片清晰度 | Transformer | 处理 | 图片 | 质量评估 | 对图片进行清晰度计算 | - | ||||
| 视频抽段最佳帧 | Transformer | 处理 | 视频 | 数据清洗 | 对输入的视频,基于相邻帧进行聚类分段、段内最佳帧提取、段间最佳帧去重 | - | ||||
| 文本生成图片 | Transformer | 处理 | 图片 | 数据增强 | 根据输入的文本生成高质量图像,支持中英等语言文字生成,生成的图像存储为png格式图片 | 多模态 | t2i_vl_7b_bf16 | 38 | ||
| 自定义文本内容改写 | Transformer | 处理 | 文本 | 数据合成 | 根据自定义用户提示词,对输入文本内容进行改写 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 文本抽取多轮QA对 | Transformer | 处理 | 文本 | 数据合成 | 分析输入的文本内容,自动提取出若干多轮问答对 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 图片抽取QA对 | Transformer | 处理 | 图片 | 数据合成 | 根据图片内容抽取可复用知识问答对 | 多模态 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频抽取QA对 | Transformer | 处理 | 视频 | 数据合成 | 根据视频内容抽取可复用知识问答对 | 多模态 | qfan_vl_27b_instruct_bf16 | 80 | ||
| PDF提取图片算子 | Transformer | 处理 | 文档 | 数据清洗 | 将输入的PDF文档渲染为页面图片并输出图片路径列表 | - | ||||
| 图片亮度调整 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行亮度调整 | - | ||||
| 图片对比度增强 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行对比度增强 | - | ||||
| 图片噪声抑制 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行噪声抑制 | - | ||||
| 图片平滑增强 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行平滑增强 | - | ||||
| 图片边缘增强 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行边缘增强 | - | ||||
| 图片锐化 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行锐化 | - | ||||
| 视频提取音频 | Transformer | 处理 | 视频 | 数据清洗 | 从视频中提取音频 | - | ||||
| 视频文档qa提取 | Transformer | 处理 | 多模态 | 数据理解 | 基于视频提取的最佳帧、asr信息,进行文档qa提取 | 多模态 | document-parser-pro_vl_2b_bf16 qfan_vl_27b_instruct_bf16qfan_vl_27b_instruct_bf16 | 192 | 12 | 24 |
| 文档内容提取pro | Transformer | 处理 | 文档 | 数据清洗 | 对文档文件,进行文本提取,输入支持docx, excel, pdf, image类型 | 多模态 | document-parser-pro_vl_2b_bf16 | 32 | 12 | 24 |
| 文档解析分块 | Transformer | 处理 | 文本 | 数据清洗 | 基于文档解析结果,进行文档分块 | - | ||||
| 行人检测追踪 | Transformer | 处理 | 视频 | 数据标注 | 将输入的视频抽帧并检测人脸和追踪行人轨迹 | 视觉 | face-pedestrian-detection_vision_0.1b_fp32 | 1 | ||
| 视频轨迹帧筛选 | Transformer | 处理 | 视频 | 数据清洗 | 从每个追踪轨迹中筛选质量最优帧,支持几何评分与embedding聚类两种模式 | 视觉 | face-embed_vision_0.1b_fp16 | 1 | ||
| 多模态数据入库 | Transformer | 处理 | 其它 | 数据集成 | 通用数据入库算子,将输入数据直接写入 Doris 表,适用于多模态数据(文本、图像、音频、视频等)的批量存储。 | |||||
| 文件数据读取 | Transformer | 处理 | 其它 | 数据集成 | 根据指定列的文件名获取文件二进制数据,将二进制数据转换为bytes或base64格式的数据 | - | ||||
| 视频事件理解 | Transformer | 处理 | 视频 | 数据理解 | 对视频抽帧并进行人脸检测识别,结合轨迹信息,调用VL模型生成视频中人物活动和事件的标题与描述 | 多模态 | face-embed_vision_0.1b_fp16 qfan_vl_27b_instruct_bf16 | 17 | ||
| 视频单目深度估计 | Transformer | 处理 | 视频 | 数据标注 | 根据输入视频,计算单目深度,将深度信息存储在alpha通道中,rgb通道为可视化结果,结果存储为视频,支持无损和有损编码 | 视频 | depth-estimation_vision_0.8b_fp16 | 4 | ||
| LLM文本推理 | Transformer | 处理 | 文本 | 数据理解 | 通过OpenAI兼容接口调用文本大模型进行推理,并输出模型生成结果 | 多模态 | ||||
| VLM多模态推理 | Transformer | 处理 | 多模态 | 数据理解 | 通过OpenAI兼容接口调用多模态大模型进行推理,支持图片、视频(直传或抽帧)、音频等多模态输入 | 多模态 | ||||
| 视频事件匹配 | Transformer | 处理 | 视频 | 数据理解 | 根据输入的视频和追踪轨迹,通过VLM将画面内容与用户自定义规则进行语义匹配,输出触发的规则ID与依据 | 多模态 | face-embed_vision_0.1b_fp16 qfan_vl_27b_instruct_bf16 | 17 | ||
| 访客交互对话 | Transformer | 处理 | 多模态 | 数据理解 | 基于多模态模型的AI管家算子,通过视频输入完成访客语音识别、人脸识别和智能对话回复 | 多模态 | qfan_omni_7b_instruct_bf16 face-embed_vision_0.1b_fp16 asr_audio_7b_bf16 | 73 | ||
| 视频点采样 | Transformer | 处理 | 视频 | 数据标注 | 对输入视频,提取首帧进行对应物体类别分割,在分割区域内采样点 | 视频 | ows_vision_0.8b_fp16 | 16 | ||
| 视频点追踪 | Transformer | 处理 | 视频 | 数据标注 | 对于输入视频和采样点进行追踪,输出轨迹信息 | 视频 | point-track_vision_0.2b_fp16 | 3 | ||
| 视频安全监控 | Transformer | 处理 | 视频 | 数据理解 | 对视频抽帧并进行人脸检测识别,结合轨迹信息,调用VL模型识别视频中出现的异常和异常类型 | 多模态 | face-embed_vision_0.1b_fp16 qfan_vl_27b_instruct_bf16 | 17 | ||
| 视频格式转换 | Transformer | 处理 | 视频 | 数据清洗 | 将输入的视频文件转换为统一格式,支持分辨率、帧率、格式后缀、比特率设置。 | - | ||||
| 视频高光时刻识别 | Transformer | 处理 | 视频 | 数据标注 | 对视频里的人脸识别、高光时刻识别,输出高光时刻片段的时间、标签、描述。 | 多模态 | face-embed_vision_0.1b_fp16 qfan_vl_27b_instruct_bf16 | 17 | ||
| 视频剪辑合成 | Transformer | 处理 | 多模态 | 数据合成 | 对视频片段剪辑合成,附上对应的BGM | 多模态 | qfan_vl_27b_instruct_bf16 | 16 | ||
| 图片打马赛克 | Transformer | 处理 | 图片 | 数据合成 | 对图片加上马赛克(前接owd/ows算子) | - | ||||
| 视频场景切分 | Transformer | 处理 | 视频 | 数据理解 | 对视频不同场景切分,返回切分的帧、时间戳以及每个片段的类型 | 视觉 | ominishotcut_0.1b_fp32 | 1 | ||
| 图片格式转换 | Transformer | 处理 | 图片 | 数据清洗 | 对输入的图片文件转换为统一的格式,支持 jpg/jpeg/png/webp/bmp,支持图片宽高调整。 | - | ||||
| 图片去雾 | Transformer | 处理 | 图片 | 数据增强 | 对输入的雾天图片进行去雾增强处理,生成的图像存储为png格式图片 | 视觉 | image-dehaze_vision_0.1b_base_fp32 | 4 | ||
| 图片车牌检测识别 | Transformer | 处理 | 图片 | 数据标注 | 对输入的图片做车辆检测,根据检测到的车辆进行车牌检测和识别,车辆和车牌以标准coco检测格式返回,车牌识别文字以ocr格式输出 | 视觉 | plate_vision_0.2b_fp16 | 1 | ||
| 图片去水印 | Transformer | 处理 | 图片 | 数据清洗 | 对输入的含水印图片去除水印 | 视觉 | watermark-remove_vl_20b_bf16 | 89 | ||
| 文本拼写错误检测 | Transformer | 处理 | 文本 | 数据清洗 | 对文本进行拼写错误检测(英文) | spell-detect_text_0.1b_base_fp32 | 1 | |||
| 文本拼写纠正 | Transformer | 处理 | 文本 | 数据清洗 | 对文本进行拼写纠错(英文) | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| HTML转Markdown | Transformer | 处理 | 文本 | 数据理解 | HTML转Markdown,从HTML文件中提取主要内容并输出Markdown格式文本 | 大语言 | html_to_markdown_0.5b_bf16 | 8 | ||
| 视频帧率异常检测 | Transformer | 处理 | 视频 | 数据清洗 | 检测视频帧率维度的异常,识别 fps 声明不一致、帧数不匹配、解码失败等故障 | |||||
| 文件元数据提取 | Transformer | 处理 | 其它 | 数据集成 | 对视频、音频、图片进行元数据提取 | - | ||||
| 文件格式完整性判断 | Transformer | 处理 | 其它 | 质量评估 | 对视频、音频、图片进行格式完整性判断 | - | ||||
| 视频物体分割热力图生成 | Transformer | 处理 | 视频 | 数据理解 | 对输入视频进行物体分割,统计目标区域热度并生成热力图视频和 npz 热力值矩阵文件。 | 视频 | ows_vision_0.8b_fp16 | 16 | ||
| 多模态检索 | Transformer | 处理 | 多模态 | 数据理解 | 基于输入 embedding 到 Doris 中检索相似内容,并将结果写入 db__meta.retrieval_result。 | |||||
| 视频运动热力图生成 | Transformer | 处理 | 视频 | 数据理解 | 基于 MOG2 背景差分检测视频中的运动区域,统计运动区域热度并生成热力图可视化视频和热力值矩阵文件。 | |||||
| 视频手部操作识别 | Transformer | 处理 | 视频 | 数据理解 | 对输入的视频进行手部操作分析,识别出一系列相对独立的子操作,按照时间片段输出手部操作的核心动作描述 | 多模态 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频黑边检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行黑边检测,输出包含各时间片段黑边起止时间及四边像素宽度的列表 | |||||
| 复杂场景自动语音识别 | Transformer | 处理 | 音频 | 数据标注 | 针对高背景噪声、混响、录音伪音、电子失真等复杂场景下优化的中文和英文自动语音识别,输出识别后的文本结果,支持字符级时间戳输出 | 音频 | wild-asr_audio_2b_bf16 | 29 | ||
| 视频抖动检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行镜头抖动检测,输出包含各时间片段起止时间的列表 | |||||
| 视频运动场景切分 | Transformer | 处理 | 视频 | 数据理解 | 对视频进行运动场景切分,输出带有标签的场景片段 | qfan_vl_27b_instruct_bf16 | 80 | |||
| 视频稠密光流 | Transformer | 处理 | 视频 | 数据理解 | 对输入视频逐帧生成稠密光流,输出光流可视化视频和光流场数值矩阵文件 | 视频 | dense-optical-flow_vision_0.1b_fp32 | 1 | ||
| 视频字幕提取 | Transformer | 处理 | 视频 | 数据理解 | 从视频中提取字幕(带时间戳) | ocr-e2e_vision_0.2b_fp16 qfan_vl_27b_instruct_bf16 | 81 | |||
| 音频裁剪 | Transformer | 处理 | 音频 | 数据清洗 | 基于裁剪信息文件 -> [start_time, end_time] 窗口列表,对音频做裁剪 | |||||
| 音频段embedding提取 | Transformer | 处理 | 音频 | 数据清洗 | 对音频段进行embedding提取,同时保存至npz文件 | 音频 | audio-embed_audio_0.3b_fp32 | 2 | ||
| 音频异常检测 | Transformer | 处理 | 音频 | 数据清洗 | 基于异常模板库,进行异音检测,输出异常时间片段(start_time/end_time)。 | 音频 | audio-embed_audio_0.3b_fp32 | 2 | ||
| 图片锐化抖动器 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行锐化抖动(数据增强):对每张图片在用户指定的强度区间内随机取一个 factor 后施加锐化。 | - | ||||
| 图片亮度抖动器 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行亮度抖动(数据增强):对每张图片在用户指定的区间内随机取一个 factor 后调整亮度。 | - | ||||
| 图片对比度抖动器 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行对比度抖动(数据增强):对每张图片在用户指定的区间内随机取一个 factor 后调整对比度。 | - | ||||
| 图片饱和度抖动器 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行饱和度抖动(数据增强),在用户指定区间内随机取系数后调整饱和度 | - | ||||
| 图片色调抖动器 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行色调抖动(数据增强),在用户指定区间内随机取偏移后在色相环上旋转 | - | ||||
| 图片模糊抖动器 | Transformer | 处理 | 图片 | 数据增强 | 对图片进行模糊抖动(数据增强),在用户指定区间内随机取 sigma 后做高斯模糊 | - | ||||
| 视频水印检测 | Transformer | 处理 | 视频 | 质量评估 | 检测出视频中出现水印的片段 | 视频 | watermark_vision_0.1b_fp16 | 1 | ||
| 图片水印检测 | Transformer | 处理 | 图片 | 质量评估 | 检测图片是否包含水印,输出置信分数 | 图片 | watermark_vision_0.1b_fp16 | 1 | ||
| 视频马赛克检测 | Transformer | 处理 | 视频 | 质量评估 | 检测出视频中出现马赛克的片段 | 视频 | mosaic-detect_vision_0.1b_fp32 | 1 | ||
| 图片旋转 | Transformer | 处理 | 图片 | 数据标注 | 按用户指定角度对图片进行旋转(确定性,无随机)。底层使用 torchvision TF.rotate。 | - | ||||
| 图片噪声 | Transformer | 处理 | 图片 | 数据标注 | 对图片添加噪声,支持高斯噪声和椒盐噪声。用户传归一化强度 [0,1],内部按噪声类型映射到各自量纲(高斯→sigma×255,椒盐→ratio)。每张图独立随机;传 seed 可复现整批结果。底层使用 numpy。 | - | ||||
| 图片主体提取 | Transformer | 处理 | 图片 | 数据标注 | 提取图片主体信息 | 图片 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 图片裁剪 | Transformer | 处理 | 图片 | 数据标注 | 对图片进行裁剪,支持三种模式:中心裁剪(center)、随机裁剪(random)、指定区域裁剪(specified)。底层使用 torchvision center_crop / crop。 | - | ||||
| 图片票据检测 | Transformer | 处理 | 图片 | 数据标注 | 对图像中的票据进行检测,输出票据检测框坐标和置信度,票据检测的输出采用coco检测格式规范,票据类别标签统一设置为receipt,支持中文和英文票据 | 多模态 | qfan_vl_27b_instruct_bf16 ocr-det_vision_0.1b_fp16 | 81 | ||
| 图片文档布局检测 | Transformer | 处理 | 图片 | 数据标注 | 对文档图像中的布局进行检测,输出布局元素类别、检测框坐标和置信度,布局检测的输出采用coco检测格式规范,支持25种布局元素识别,支持中英等多种语言 | 视觉 | layout-detect-v2_vision_0.2b_fp16 | 1 | ||
| 视频通用行为识别 | Transformer | 处理 | 视频 | 数据理解 | 用多模态模型识别人物行为,支持内置和自定义行为标签 | 多模态 | face-embed_vision_0.1b_fp16 qfan_vl_27b_instruct_bf16 | 81 | ||
| 视频不安全着装识别 | Transformer | 处理 | 视频 | 数据理解 | 调用多模态模型识别人员未佩戴安全帽、未穿工服等不安全着装情况,支持自定义识别类型 | 多模态 | face-embed_vision_0.1b_fp16 qfan_vl_27b_instruct_bf16 | 81 | ||
| 视频清晰度计算 | Transformer | 处理 | 视频 | 质量评估 | 对视频抽帧并计算清晰度 | |||||
| Markdown转文档 | Transformer | 处理 | 文档 | 数据理解 | 将markdown文本或markdown文件转换为pdf/docx文件 | - | ||||
| 文档转PDF | Transformer | 处理 | 文档 | 数据理解 | 将ppt/pptx/doc/docx文件转换为pdf文件。 | - | ||||
| 问题改写 | Transformer | 处理 | 文本 | 数据增强 | 对问题进行改写,支持生成一条或多条改写结果用于数据增强。 | 大语言 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 图片背景替换 | Transformer | 处理 | 图片 | 数据合成 | 将图片背景替换为指定背景图片,先去除原背景再合成新背景 | |||||
| 视频插帧 | Transformer | 处理 | 视频 | 数据合成 | 对输入视频进行帧率提升,生成插帧后的视频 | video-frame-interpolation_vision_0.1b_fp32 | 1 | |||
| 视频近重复片段去重 | Transformer | 处理 | 视频 | 数据清洗 | 对视频进行切分,并检测重复的视频片段 | 视觉 | video-copy-embedding_vision_0.1b_fp32,ominishotcut_0.1b_fp32 | 4 | ||
| 视频目标追踪 | Transformer | 处理 | 视频 | 数据标注 | 对视频中指定类别目标进行检测和跨帧追踪,返回目标的轨迹信息 | 视觉 | owd_vision_0.6b_fp16 object-track_vision_0.1b_fp16 | 13 | ||
| 视频物体像素速度分析 | Transformer | 处理 | 视频 | 数据标注 | 对视频中指定类别的目标进行检测(默认开放世界检测 OWD)和跨帧跟踪,并用每个目标 bbox 中心点处的稠密光流计算其像素/秒速度,速度写入每条轨迹的每个目标。全帧处理(按视频真实帧率)以保证相邻帧对齐。 | owd_vision_0.6b_fp16 object-track_vision_0.1b_fp16 dense-optical-flow_vision_0.1b_fp32 | 13 | |||
| 多模态重排序 | Transformer | 处理 | 多模态 | 数据标注 | 对输入候选数据进行重排序 | rerank_vl_8b_bf16 | 24 | |||
| 图像畸变校正 | Transformer | 处理 | 图片 | 数据理解 | 相机畸变校正(CMei/Fisheye/Pinhole三合一):用户选择model参数,算子自动分发到对应OpenCV矫正函数,默认cmei模式 | |||||
| 视频畸变校正 | Transformer | 处理 | 视频 | 数据理解 | 视频相机畸变校正(CMei/Fisheye/Pinhole三合一):用户选择model参数,算子逐帧自动分发到对应OpenCV矫正函数,帧率与分辨率跟随原视频,默认cmei模式 | |||||
| 相机标定 | Transformer | 处理 | 图片 | 数据理解 | 输入一组棋盘格标定板图片,用户选择model相机类型,估计相机内参和畸变参数,输出可直接提供给畸变校正算子的calibration。默认pinhole普通广角模式 | |||||
| 图像去噪专业版 | Transformer | 处理 | 图片 | 数据增强 | 对输入的图像进行去噪处理 | 图片 | image-denoise_vision_0.1b_fp32 | 4 | ||
| 图像低光照增强 | Transformer | 处理 | 图片 | 数据增强 | 对输入的图像进行低光照增强处理 | 图片 | image-llie_vision_0.1b_fp32 | 4 | ||
| 视频去模糊 | Transformer | 处理 | 视频 | 数据增强 | 对输入的视频进行去模糊处理 | 视频 | video-deblur_vision_0.1b_fp32 | 4 | ||
| 视频去噪 | Transformer | 处理 | 视频 | 数据增强 | 对输入的视频进行去噪处理 | 视频 | image-denoise_vision_0.1b_fp32 | 4 | ||
| 视频低光照增强 | Transformer | 处理 | 视频 | 数据增强 | 对输入的视频进行低光照增强处理 | image-llie_vision_0.1b_fp32 | 4 | |||
| 图片相机内参估计 | Transformer | 处理 | 图片 | 数据标注 | 从单张图片中还原出相机内参,输出标准的3x3矩阵,包含水平和垂直方向的焦距和主点 | 视觉 | intrinsics-estimate_vision_0.5b_fp16 | 8 | ||
| 视频防抖 | Transformer | 处理 | 视频 | 数据增强 | 基于视频防抖模型服务对输入视频进行防抖处理,输出稳定后的视频 | 视觉 | videostab_vision_0.1b_fp32 | 16 | ||
| 表格键值抽取 | Transformer | 处理 | 文档 | 数据理解 | 从文档解析结果的多个表格中抽取键值信息 | 多模态 | qfan_vl_27b_instruct_bf16 | 80 | ||
| LeRobotV20转LeRobotV21 | Transformer | 处理 | 其它 | 数据集成 | 将 LeRobot v2.0 格式的机器人数据集转换为 LeRobot v2.1 格式 | |||||
| LeRobotV21转LeRobotV30 | Transformer | 处理 | 其它 | 数据集成 | 将 LeRobot v2.1 格式的机器人数据集转换为 LeRobot v3.0 格式 | |||||
| HDF5转LeRobotV30 | Transformer | 处理 | 其它 | 数据集成 | 将 HDF5 格式的机器人数据集转换为 LeRobot v3.0 格式,支持 ALOHA / Mobile ALOHA / RoboMimic / LIBERO 布局 | |||||
| 图片手部关键点检测 | Transformer | 处理 | 图片 | 数据标注 | 检测图片中的手部区域及21个二维关键点,并输出关键点信息和可视化图片 | 图片 | hand-detection_vision_0.1b_fp32 hand-keypoint-detection_vision_0.1b_fp32 | 1 | ||
| 视频手部关键点检测 | Transformer | 处理 | 视频 | 数据标注 | 对视频抽帧后检测手部区域及21个二维关键点 | 视频 | hand-detection_vision_0.1b_fp32 hand-keypoint-detection_vision_0.1b_fp32 | 1 | ||
| AgiBot转LeRobotV30 | Transformer | 处理 | 其它 | 数据集成 | 将 AgiBot World 格式的机器人数据集转换为 LeRobot v3.0 格式 | |||||
| RLDS转LeRobotV30 | Transformer | 处理 | 其它 | 数据集成 | 将 Open X-Embodiment RLDS 格式的机器人数据集转换为 LeRobot v3.0 格式 | |||||
| LeRobotV30规格对齐 | Transformer | 处理 | 其它 | 数据集成 | 将 LeRobot v3.0 数据集对齐到统一规格:重采样帧率、投影 action/state 维度、归一化 | |||||
| 视频轨迹导出LeRobotV30 | Transformer | 处理 | 其它 | 数据集成 | 将视频与 action、state 轨迹导出为单 episode 的 LeRobot v3.0 数据集 | |||||
| LeRobotV30数据集合并 | Transformer | 处理 | 其它 | 数据集成 | 将多个 LeRobot v3.0 数据集文件级拼接为一个数据集,输出收敛为一行 | |||||
| 图片画质评估 | Transformer | 处理 | 图片 | 质量评估 | 对图片评估画面质量并输出 [0,1] 清晰度得分,越高越清晰 | 图片 | image-quality_vision_0.1b_fp32 | 1 | ||
| 视频画质评估 | Transformer | 处理 | 视频 | 质量评估 | 对视频抽帧后逐帧评估画面质量并输出 [0,1] 清晰度得分 | 视频 | image-quality_vision_0.1b_fp32 | 1 | ||
| 视频画面闪烁检测 | Transformer | 处理 | 视频 | 质量评估 | 计算相邻帧 MAE,输出 [0,1] 稳定性得分,越高越无闪烁 | 视频 | ||||
| 视频主体一致性检测 | Transformer | 处理 | 视频 | 质量评估 | 抽取每帧 DINO 特征,计算帧间余弦相似度,输出 [0,1] 稳定性得分,检测生成视频主体身份漂移 | 视频 | subject-consistency_vision_0.1b_fp32 | 2 | ||
| 视频背景一致性检测 | Transformer | 处理 | 视频 | 质量评估 | 抽取每帧 CLIP 特征,计算帧间余弦相似度,输出 [0,1] 背景稳定性得分,检测场景/背景抖动 | 视频 | background-consistency_vision_0.1b_fp32 | |||
| 视频服饰一致性检测 | Transformer | 处理 | 视频 | 质量评估 | 抽 64 帧问视频理解大模型三个问句,输出 {-1,0,1} 服饰一致性判定 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频力学合理性检测 | Transformer | 处理 | 视频 | 质量评估 | 判断视频中的力学过程是否符合真实世界力学规律 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频热力学合理性检测 | Transformer | 处理 | 视频 | 质量评估 | 判断视频中的相变与温度变化是否符合真实世界热力学规律 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频材质稳定性检测 | Transformer | 处理 | 视频 | 质量评估 | 判断视频中材质表现是否符合真实世界材料性质,输出 1/0/-1 三值得分 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频安全风险识别 | Transformer | 处理 | 视频 | 质量评估 | 根据用户传入的风险标签识别视频中是否存在对应的安全风险,输出风险标签、描述、置信度 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频动作常识合理性检测 | Transformer | 处理 | 视频 | 质量评估 | 用视频理解大模型逐问核对动作是否发生、前置状态、实际作用与末态结果,四问全过得 1 分 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频实例保留性检测 | Transformer | 处理 | 视频 | 质量评估 | 按 2 秒滑窗逐段检查实例是否凭空出现、消失、融合或分裂,任一窗异常即判 0 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频组合创造性检测 | Transformer | 处理 | 视频 | 质量评估 | 判定视频想表现的创意组合是否真的实现,−1 表示无创意组合、不适用 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频动态空间关系检测 | Transformer | 处理 | 视频 | 质量评估 | 判断自主移动的主体相对静止参照物是否换到了另一侧,二值得分 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频动态属性变化检测 | Transformer | 处理 | 视频 | 质量评估 | 判断视频里某物体的颜色、材质、尺寸或亮度是否真的发生了变化 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频动作时序理解检测 | Transformer | 处理 | 视频 | 质量评估 | 判断视频里两个动作的切换是否真实发生、先后顺序是否正确 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频人人交互识别检测 | Transformer | 处理 | 视频 | 质量评估 | 判断视频里是否有两人以上且他们之间的交互是否真的发生 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频复杂场景描述检测 | Transformer | 处理 | 视频 | 质量评估 | 连问五个固定问句判断视频场景是否真的分多个阶段推进 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频复杂剧情描述检测 | Transformer | 处理 | 视频 | 质量评估 | 连问五个固定问句判断视频剧情是否真的由多个事件依次推进 | 视频 | qfan_vl_27b_instruct_bf16 | 80 | ||
| 视频时序事件识别 | Transformer | 处理 | 视频 | 数据标注 | 对输入的视频进行显著事件识别,按时间片段输出事件的起止时间(mm:ss.ff)与事件描述,仅支持输出英文描述 | 多模态 | temporal-event_vl_8b_bf16 | 24 | ||
| 视频生成多样性检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行生成内容多样性检测,输出多样性得分 | 视频 | generation-diversity_vision_0.1b_fp32 | 4 | ||
| 视频重复帧检测 | Transformer | 处理 | 视频 | 质量评估 | 对输入的视频进行重复帧(静止画面)检测,以起止时间戳方式输出检测到的重复帧片段列表 | 视频 | ||||
| 视频机械臂分割 | Transformer | 处理 | 视频 | 数据标注 | 对输入的视频进行机械臂分割,逐帧输出机械臂 mask(coco+RLE),支持固定文本/点/框提示 | 视频 | robot-seg_vision_0.1b_fp16 | 4 | ||
| 图片机械臂分割 | Transformer | 处理 | 图片 | 数据标注 | 对输入的图片进行机械臂分割,结果以标准 coco 格式输出,支持固定文本/点/框提示 | 图片 | robot-seg_vision_0.1b_fp16 | 4 | ||
| 图片三维手部关键点检测 | Transformer | 处理 | 图片 | 数据标注 | 对输入的图片检测手部并重建 21 个三维手部关键点(含全图投影坐标、根相对三维坐标、左右手、bbox),结果写入 meta | 图片 | hand-keypoint-3d-detection_vision_0.1b_fp32 | 4 | ||
| 视频三维手部关键点检测 | Transformer | 处理 | 视频 | 数据标注 | 对输入的视频抽帧后逐帧重建 21 个三维手部关键点,按帧写入 meta | 视频 | hand-keypoint-3d-detection_vision_0.1b_fp32 | 4 | ||
| 手部关键点可视化 | Transformer | 处理 | 视频 | 数据标注 | 视频 | hand-detection_vision_0.1b_fp32,hand-keypoint-detection_vision_0.1b_fp32,hand-keypoint-3d-detection_vision_0.1b_fp32 | 4 | |||
| 视频手部重建 | Transformer | 处理 | 视频 | 数据标注 | 根据输入视频,输出世界坐标系下左右手mesh/3D关键点等结果npz;可选输出mesh+3D关键点的可视化视频。结果写入dbmeta__(hand_recon_vis_video、hand_recon_npz) | 视频 | hand-reconstruction_vision_2b_fp16 | 16 | ||
| LeRobot数据解包 | Transformer | 处理 | 多模态 | 数据集成 | 从 LeRobot 数据集(兼容 v2.0/v2.1/v3.0)中解包数据供通用算子处理,当前支持抽取每个 episode、每个 camera 的视频(输出标准 videos 字段) | - | ||||
| 视频开放世界分割 | Transformer | 处理 | 视频 | 数据标注 | 根据输入视频和文本提示词(英文类别名,可多类),对视频中的目标做多目标分割并逐帧输出 COCO/RLE 结果,可选输出叠加 mask 的可视化视频 | 视频 | ows_vision_0.8b_fp16 | 16 | ||
| 视频光流运动得分 | Transformer | 处理 | 视频 | 数据标注 | 根据输入视频,计算画面运动综合分和运动等级 | 视频 | dense-optical-flow_vision_0.1b_fp32 | |||
| 图片人体姿态2D估计 | Transformer | 处理 | 图片 | 数据标注 | 检测图片中的人体并估计每个人的 COCO-17 二维关键点(含关键点坐标、置信度与人体框),结果写入 db__meta 的 human_pose_2d;visualize=true 且配置 dst_path 时另存叠加关键点的可视化图 | 图片 | ||||
| 图片人体姿态3D估计 | Transformer | 处理 | 图片 | 数据标注 | 检测图片中的人体并估计每个人的 3D 姿态:3D/2D 关键点、相机平移与焦距,以及人体网格(MHR)的形状/身体/手部参数(return_mesh=true 时附带网格顶点 vertices),结果写入 db__meta 的 human_pose_3d;visualize=true 且配置 dst_path 时另存 2D 骨架叠加图(非 3D 网格渲染) | 图片 | ||||
| 视频人体姿态2D估计 | Transformer | 处理 | 视频 | 数据标注 | 对输入视频按 fps/frame_num 抽帧后,对每个抽样帧检测人体并估计 COCO-17 二维关键点,各帧结果写入 db__meta 的 human_pose_2d;visualize=true 且配置 dst_path 时将可视化帧编码为 mp4 另存 | 视频 | ||||
| 视频人体姿态3D估计 | Transformer | 处理 | 视频 | 数据标注 | 对输入视频按 fps/frame_num 抽帧后,对每个抽样帧检测人体并估计 3D/2D 关键点、相机平移与焦距及人体网格(MHR)参数(return_mesh=true 时附带网格顶点 vertices),各帧结果写入 db__meta 的 human_pose_3d;visualize=true 且配置 dst_path 时将 2D 骨架叠加帧编码为 mp4 另存 | 视频 | ||||
| 视频相机姿态估计 | Transformer | 处理 | 视频 | 数据标注 | 对输入视频按 fps/frame_num 抽帧后估计相机运动,输出每个抽样帧的位姿(平移向量 + 旋转四元数)及相机内参、图像尺寸等,结果写入 db__meta 的 camera_pose_info;return_npz=true 且配置 dst_path 时,另将位姿数组存为 npz,路径写入 camera_pose_npz | 视频 | ||||
| 视频三维重建 | Transformer | 处理 | 视频 | 数据标注 | 根据输入视频重建三维场景,输出逐帧相机内外参、深度图、点云及置信度(npz) | 视频 | video-3d-reconstruction_vision_1.5b_bf16 | 14 | ||
| MCAP转LeRobotV30 | Transformer | 处理 | 其它 | 数据集成 | 将 protobuf 编码的 MCAP 机器人数据集转换为 LeRobot v3.0 格式 | |||||
| 视频物体擦除 | Transformer | 处理 | 视频 | 数据合成 | 输入视频和文本物体描述,将视频中指定物体擦除掉并修复背景 | 多模态 | ||||
| 轨迹平滑 | Transformer | 处理 | 其它 | 数据清洗 | 对手部或末端执行器的动作与位姿序列做离群点去除和平滑,输出长度不变 | 多模态 | ||||
| RRD转LeRobotV30 | Transformer | 处理 | 其它 | 数据集成 | 将 Rerun RRD 格式的 VLA 机器人数据集转换为 LeRobot v3.0 格式 | |||||
| 视频TransNetV2场景切分 | Transformer | 处理 | 其它 | 数据集成 | 调用 TransNetV2 检测视频转场模型,将相邻转场之间的片段转成镜头区间(每个镜头含 start/end 秒),结果写入 db__meta 的 video_scene_cuts 字段。 | 视频 | ||||
| 手部动作计算 | Transformer | 处理 | 其它 | 数据集成 | 从逐帧手部 6D 位姿计算对齐 LeRobot 的 7 维相对动作与绝对状态 | |||||
| LeRobotV30图像ROI裁剪 | Transformer | 处理 | 其它 | 数据集成 | 对 LeRobot v3.0 数据集的图像观测逐帧裁剪 ROI 并 resize,产出新的 v3.0 数据集。 | - | ||||
| LeRobotV30统计量计算 | Transformer | 处理 | 其它 | 数据集成 | 重算 LeRobot v3.0 数据集的 meta/stats.json 统计量(min/max/mean/std 与分位数)。 | - | ||||
| 时间戳校验 | Transformer | 处理 | 其它 | 质量评估 | 校验 LeRobot v3.0 数据集的时间戳一致性(严格单调 + 1/fps 容差),校验报告写入 db__meta。 | |||||
| 视频深度质量检测 | Transformer | 处理 | 其它 | 质量评估 | 检测 LeRobot 深度视频的空洞率、时域噪声和平面拟合误差,结果写入元数据,不改动视频 | 2 | ||||
| 原子动作切分 | Transformer | 处理 | 其它 | 质量评估 | 按停顿点和夹爪开合翻转把 7 维动作序列切成连续的原子片段 | 1 | 2 | |||
| 旋转表示转换 | Transformer | 处理 | 其它 | 质量评估 | 轴角、欧拉角、四元数、6D、旋转矩阵五种旋转表示两两转换 | 1 | 2 | |||
| 视频lerobot画面冻结检测 | Transformer | 处理 | 视频 | 质量评估 | 对视频切片进行画面冻结检测,结合机器人关节运动门控(画面不变且对应臂在动才判冻结),以起止时间戳方式输出检测到的冻结片段列表 | 1 | 2 | |||
| LeRobot元数据统计 | Transformer | 处理 | 其它 | 质量评估 | 统计 LeRobot 数据集的 episode 长度分布,并给出 Tukey IQR 异常边界(fence),写入 db__meta.episode_report;只做统计、不逐 episode 判定;数据集级,只读 meta/(无需解码),不改原数据集 | - | 1 | 2 | ||
| 关节值合理性检测 | Transformer | 处理 | 其它 | 质量评估 | 逐 episode 筛查 LeRobot 关节序列的不合理跳变:默认按物理速度上限(|Δq|×fps)判定、Hampel/MAD 可选;写入 db__meta.action_jump_report;有 lerobot_unpack 的 frames 则复用不下载,不改原数据集 | - | 1 | 2 | ||
| LeRobot分位数统计补齐算子 | Transformer | 处理 | 其它 | 数据集成 | 给 LeRobot v3.0 数据集就地补齐 meta/stats.json 的分位数(q01/q10/q50/q90/q99),min/max/mean/std 顺带重算 | 1 | 2 | |||
| Orbbec转LerobotV30 | Transformer | 处理 | 其它 | 数据集成 | 将 Orbbec EGO 采集文件夹(双目相机 + IMU)转换为 LeRobot v3.0 格式 | 1 | 2 | |||
| LeRobotEpisode完整性检测 | Transformer | 处理 | 其它 | 数据清洗 | 检测 LeRobot v3.0 数据集中每个 episode 是否完整(是否提前终止),综合长度比、末态距离、DTW 覆盖率与视频时长,检测报告写入 db__meta。 | 1 | 2 | |||
| 关节角正余弦编码 | Transformer | 处理 | 其它 | 质量评估 | 将关节角向量编码为连续的正弦和余弦双通道,支持选列并可保留原始值 | 1 | 2 | |||
| 状态动作归一化 | Transformer | 处理 | 其它 | 质量评估 | 按数据集统计量对状态或动作向量进行归一化及反归一化,支持 mean_std、min_max、q99、scale、binary 五种模式 | 1 | 2 | |||
| 文本特征嵌入 | Embedding | 处理 | 文本 | 数据理解 | 大语言 | text-embed_7b_bf16 | 32 | |||
| 多模态特征嵌入 | Embedding | 处理 | 多模态 | 数据理解 | 使用多模态特征嵌入模型对输入的图片或文本提取特征 | 多模态 | mm-embed_vl_8b_bf16 | 48 | ||
| 人脸图像特征嵌入 | Embedding | 处理 | 图片 | 数据理解 | 使用人脸特征嵌入模型对输入的人脸图像提取特征 | 视觉 | face-embed_vision_0.1b_fp16 | 1 | ||
| 文本MD5去重 | Deduplicator | 去重 | 文本 | 数据清洗 | 使用MD5对文本进行去重 | - | ||||
| 文本simhash去重 | Deduplicator | 去重 | 文本 | 数据清洗 | 使用simhash对文本进行去重 | - | ||||
| 文本minhash去重 | Deduplicator | 去重 | 文本 | 数据清洗 | 使用minhash对文本进行去重 | - | ||||
| 图片hash去重 | Deduplicator | 去重 | 图片 | 数据清洗 | 使用多种hash算法对图片进行去重 | - | ||||
| 视频MD5去重 | Deduplicator | 去重 | 视频 | 数据清洗 | 使用MD5算法对视频文件进行去重 | - | ||||
| 图片分块hash去重 | Deduplicator | 去重 | 图片 | 数据清洗 | 使用分块hash算法对图片进行去重 | - | ||||
| 图片向量去重 | Deduplicator | 去重 | 图片 | 数据清洗 | 基于图片特征向量的余弦相似度对图片进行去重 | 多模态 | mm-embed_vl_8b_bf16 | 48 | ||
| 图片MD5去重 | Deduplicator | 去重 | 图片 | 数据清洗 | 基于图片的MD5对图片进行去重 | |||||
| 数据加载 | 输入输出 | 输入 | 其它 | 数据集成 | 读取指定目录下的所有指定格式文件,将文件内容转换为DataBuilder的数据集格式传递给下游算子 | - | ||||
| 数据输出 | 输入输出 | 输出 | 其它 | 数据集成 | 将输入的数据持久化输出为Volume结构化文件 | - |
评价此篇文章
