2025年3月29日,英特尔在北京举行了“英特尔酷睿Ultra 200HX新品共享会”,展示了来自10家OEM的20款搭载了最新的酷睿Ultra 200HX处理器的高功用游戏本,而在本次共享会之前,英特尔还与一众媒体共享了他们在AI范畴的最新进展,特别是在大模型布置和AI PC运用方面的突破性成果。
本次会议环绕英特尔的AI PC战略,全面展示了在大模型布置、结构优化及运用生态建设上的最新进展。会上,英特尔我国区AI PC产品总监孙峪体系阐述了DeepSeek大模型的突破性技能及其在本地化布置中的实践,并联合神州数码、爱奇艺、亦心科技等协作伙伴,展示了多款根据AI PC的立异运用。此次会议不只凸显了英特尔在AI算力硬件范畴的持续抢先,更经过软硬协同的生态战略,为开发者、企业和个人用户构建了从结构支撑到场景落地的完好处理方案。
DeepSeek可以说是本年最炽热的大模型,它作为一款彻底开源的MIT模型,DeepSeek经过MOE(混合专家)和COT(思想链)技能,完成了参数规划与推理功率的平衡。而跟着大模型技能从云端向端侧延伸,私有化布置成为政企客户的中心诉求。而DeepSeek经过蒸馏技能推出了14B、32B等不一样的尺度的模型版别,下降了布置门槛。
满血版布置:选用BF16或FP8高精度数据格式,最大化模型功用,适用于对成果精确性要求苛刻的场景;蒸馏模型适配:经过DeepSeek对LLaMA、Qwen等模型的蒸馏,供给轻量化版别,下降硬件本钱;定制化开发:结合企业数据,经过“教师-学生”形式练习专属模型,完成场景化才能强化。
在私有化布置过程中,需考虑的要素包含但不限于数据精度的挑选、硬件装备以及服务等级协议(SLA)的要求,如首字呼应时刻和均匀每秒生成的token数量。为了更好地习惯这些杂乱需求,英特尔推出了多种一体机处理方案,它们具有开箱即用、支撑私有化布置弹性以及可以与本地企业运用深度结合的优势。
而英特尔自身具有具有十分完善的CPU与GPU产品线,所以这个一体机也可所以多种多样的,可所以至强W处理器+多张英特尔锐炫独立显卡的作业站,或者是运用酷睿处理器调配单张锐炫显卡的整机,也可所以搭载酷睿Ultra处理器的轻浮本。
英特尔现场展示了根据酷睿Ultra处理器的轻浮本运转DeepSeek蒸馏模型,14B模型可在一般轻浮本上流通运转代码生成使命,而搭载了64GB内存的笔记本更是可以运转32B的模型,经过投机解码技能,模型生成速度提高明显,完成每秒14个token的高效生成才能。
除了专心于大模型自身,英特尔还在多个大模型结构上供给了丰厚的处理方案。例如,针对个人开发者和ISV,英特尔推出了IPEX-LLM整合包,旨在处理开发者在端侧布置时的硬件兼容性问题,该东西不只兼容Ollama结构,还支撑LLM Studio、Open WebUI等干流结构。使得用户能在端侧充沛的使用英特尔AI PC本地算力。
IPEX-LLM的整合包仅200MB,可在GitHub和魔搭社区一键下载,且做了本地化优化,它是经过魔搭社区获取模型的,避免了网络依靠问题。
神州数码与英特尔协作开发的爱问学端侧AI PC运用开发结构,则致力于处理底层硬件迭代更新、大模型获取快捷性以及运用减肥等问题,为开发者供给更流通的开发体会。
该结构整合Ollama、Hugging Face、Model Scope三大模型生态,供给一致API接口,下降ISV的开发门槛,该结构主动适配英特尔CPU与GPU算力,开发者无需重视底层迭代;并内置模型商场支撑动态更新,缩短开发周期;还经过端侧小模型与云端协同,完成安装包“减肥”。
英特尔与协作伙伴展示了多款端侧AI运用,掩盖常识办理、作业协作、影音文娱、创意设计等场景,凸显AIPC的实用价值。
根据纽扣渠道开发的会议帮手,集本钱地语音转写、云端摘要生成与图片向量化功用。演示中,体系实时转录会议内容,并经过指令“截图入库”主动保存要害信息,会后一键生成结构化纪要,处理多使命处理痛点。
神州数码演示了爱问学软件的文档解析才能。用户上传《云南野生食用菌标准》后,14B模型从文本中提取信息,生成游览引荐,并结合搜索引擎获取最新资讯,完成“本地常识库+实时数据”的交融运用。
面壁智能的8B视觉大模型可离线解析视频内容。现场导入的大熊猫互动视频中,模型精确辨认动作并生成摘要,使命办理器显现其彻底运转于集成显卡,验证端侧算力的可靠性。
爱奇艺运用经过大模型剖析用户偏好,完成“精准引荐+剧情互动”。例如,问询“时代剧引荐”后,帮手结合云端片库与端侧GPU算力,推送匹配内容,并支撑实时问答,增强观影沉溺感。
亦心科技总经理韦祖兴展示了搭载于Yoga设备的“AI闪绘”功用。用户经过手写笔输入草图,端侧模型实时渲染成精密图画,且生成速度比美云端。韦祖兴表明:“本地化不只消除网络推迟,还支撑离线创造,开释艺术自由度。”
在会议的最终,孙峪总结了英特尔在AIPC上的三大优势。榜首,英特尔不断地提高他们的AIPC产品的算力,扩展全体产品宗族。第二,关于成绩广泛的结构,包含了OpenVINO、微软结构、Ollama等等结构都有十分好的支撑,保证软件层面给个人开发者、ISV有更多挑选。第三,英特尔全球和我国团队都在推进AIPC的ISV作业,并举行英特尔人工智能大赛,鼓舞开发者立异。
英特尔经过此次技能交流会,全方面展示了其在大模型布置、结构支撑及AI PC运用范畴的领头羊和技能实力。经过供给完好的处理方案和与协作伙伴的严密协作,英特尔可以很好的满意商场对高功用AI核算的需求,推进AI技能的立异和运用。未来,英特尔将持续致力于推进AI技能的开展和遍及,为各行各业带来更多的价值和立异。