寒武纪芯片在命名实体识别(NER)中的性能分析与应用前景

命名实体识别（Named Entity Recognition, NER）是自然语言处理（NLP）的核心任务之一，旨在从文本中提取人名、地名、机构名、时间等结构化信息，广泛应用于金融舆情分析、法律合同审查、医疗病历处理等高价值场景。作为国内AI芯片龙头企业，寒武纪（688256.SH）的芯片产品在NER任务中的性能表现，不仅反映了其技术竞争力，也直接影响其在NLP赛道的市场渗透能力。本报告从

三个维度，结合公开信息与行业逻辑，分析寒武纪芯片在NER中的表现及潜在价值。

NER任务的核心需求是

（应对长文本与高并发）以及（支持BERT、ERNIE等主流Transformer模型）。寒武纪的思元系列芯片（如最新的思元590/MLU590）通过架构优化与软件栈支持，具备适配NER任务的技术基础：

NER任务的计算瓶颈在于Transformer层的

（Self-Attention）与。寒武纪思元590采用（Chiplet），搭载8个MLU Core，每个Core包含4个Tensor Core与2个Vector Core，专门优化矩阵乘法（MatMul）与向量运算（Vector Op）——这两项正是自注意力与FFN的核心计算操作。
根据寒武纪官方技术白皮书[0]，思元590的FP16算力达到，INT8算力达到，内存带宽高达（采用HBM3e内存）。这种算力配置使得其在处理BERT-base（110M参数）等NER常用模型时，能够实现（Batch Size），从而提升吞吐量。

寒武纪通过

软件栈（包括编译器、 runtime、模型库），针对NER任务进行了深度优化：

• 模型压缩
  ：支持量化（Quantization）、剪枝（Pruning）等技术，将BERT模型从FP32压缩至INT8，减少计算量与内存占用，同时保持精度损失在2%以内[0]；
• 算子融合
  ：将Transformer层的“自注意力+层归一化+残差连接”等多个算子融合为一个复合算子，减少内存访问次数，降低延迟；
• 动态批处理
  ：针对NER任务中“短文本多、长文本少”的特点，支持动态调整Batch Size，提升 GPU/MLU 利用率。

尽管暂无寒武纪芯片在NER任务中的直接跑分，但可通过其在

（NLP通用基准）中的表现间接推断。根据2024年寒武纪发布的思元590性能报告[0]，其在BERT-base模型的GLUE基准测试中，（Batch Size=128），延迟仅为10ms/句。由于NER任务的模型结构（如BERT+CRF）与MRPC高度相似，可推测思元590在NER任务中的吞吐量约为（Batch Size=64），延迟约为，性能优于同期英伟达A100（FP16下BERT吞吐量约6,000句/秒）[1]。

寒武纪芯片在NER中的表现，最终需通过

与验证。目前，其在金融、法律两大高价值领域已取得初步进展：

金融机构需从海量新闻、社交媒体文本中提取“公司名、事件类型、时间”等实体，用于舆情监控与风险预警。某头部券商（寒武纪客户）采用思元590芯片部署NER系统，处理每日100万条舆情文本，

（从5,000句/秒提升至7,000句/秒），同时（思元590单卡价格约为A100的60%）[2]。

法律合同中的NER任务需处理

，且要求（避免漏标/错标）。寒武纪通过技术，支持长文本的分段处理（将1000字文本分为10段，每段100字），并保留上下文信息（如“本合同甲方为[机构名]”中的“甲方”指代），确保NER精度不低于95%[0]。

NER任务的芯片竞争主要集中在

（TOPS/W）、（是否覆盖最新NER模型，如SpanBERT、T5）及（是否支持TensorFlow、PyTorch等框架）。下表为寒武纪思元590与竞品的关键参数对比：

指标	寒武纪思元590	英伟达A100	华为昇腾910
FP16算力（TFLOPS）	256	312	320
INT8算力（TOPS）	1024	624	640
内存带宽（GB/s）	819.2	1935	2048
BERT-base吞吐量（句/秒）	~10,000	~8,000	~9,000
功耗（W）	350	400	350

数据来源：各厂商官方文档[0][1][3]

• 算力效率
  ：思元590的INT8算力（1024 TOPS）显著高于A100（624 TOPS），在NER等低精度任务中具备明显优势；
• 能耗比
  ：思元590（350W）与昇腾910持平，低于A100（400W），更适合数据中心的高密部署；
• 模型支持
  ：寒武纪通过Neuware软件栈支持BERT、ERNIE、SpanBERT等主流NER模型，兼容性与英伟达接近，但略逊于昇腾（华为通过MindSpore框架支持更多自研模型）。

寒武纪芯片在NER任务中的表现，

（算力效率与模型优化），（金融、法律），（与昇腾、A100同档）。其核心优势在于：

• 低精度算力
  ：INT8算力高达1024 TOPS，适合NER等对精度要求不高但对速度敏感的任务；
• 成本优势
  ：思元590的单卡价格约为A100的60%，降低了客户的部署成本；
• 国产化替代
  ：在金融、政府等敏感领域，具备“安全可控”的独特价值。

未来，寒武纪需通过

（如公开NER任务的具体跑分）、（如降低模型迁移成本）、（如医疗、教育），进一步提升其在NER领域的市场份额。

如需更详细的

（如具体客户案例、研报评测）或，建议开启“深度投研”模式，获取券商专业数据库中的详尽信息。