400 128 6709

行业新闻

以 GPU 实例演示 Alibaba Cloud Linux 3 对 AI 生态的支持

发布时间:2023-09-11点击次数:

日前,alibaba cloud linux 3 为使 ai 开发体验更高效,提供了一些优化升级,本文为“alibaba cloud linux 3 ai 能力介绍”系列文章预告篇,以 gpu 实例为例,为大家演示 alibaba cloud linux 3 对 ai 生态的支持。接下来还将陆续发布 2 篇系列文章,主要介绍基于 alinux 的云市场镜像为用户提供开箱即用的 ai 基础软件环境,以及基于 amd 介绍 ai 能力差异化。敬请期待。更多 alibaba cloud linux 3 信息可前往官网查看:https://www.aliyun.com/product/ecs/alinux

网易人工智能 网易人工智能

网易数帆多媒体智能生产力平台

网易人工智能 233 查看详情 网易人工智能

当在 Linux 操作系统上开发人工智能(AI)应用程序时,研发人员可能会遇到一些挑战,这些挑战包括但不限于:

1. GPU 驱动程序:为了在 Linux 系统上使用 NVIDIA GPU 进行训练或推理,需要安装和配置正确的 NVIDIA GPU 驱动程序。由于不同的操作系统和 GPU 型号可能需要不同的驱动程序,因此可能需要一些额外的工作。

2. AI 框架编译:在 Linux 系统上使用 AI 框架进行编程时,需要安装和配置适当的编译器和其他依赖项。这些框架通常需要进行编译,因此需要确保正确安装了编译器和其他依赖项,并正确配置编译器。

3. 软件兼容性:Linux 操作系统支持许多不同的软件和工具,但不同版本和发行版之间可能存在兼容性问题。这可能会导致某些程序无法正常运行或者在某些操作系统上不可用。因此,研发人员需要了解其工作环境的软件兼容性,并进行必要的配置和修改。

4. 性能问题:AI 软件栈是一个异常复杂的系统,通常需要对不同型号的 CPU 和 GPU 进行专业的优化,才能发挥其最佳性能。软硬件协同的性能优化对于 AI 软件栈来说是一个具有挑战性的任务,需要拥有高超的技术水平和专业知识。

阿里云第三代云服务器操作系统 Alibaba Cloud Linux 3(以下简称“Alinux 3”)是基于龙蜥操作系统 Anolis OS 研发的商业版操作系统,为开发人员提供了强大的 AI 开发平台,通过支持龙蜥生态 repo(epao),Alinux 3 实现了对主流的 nvidia GPU 和 CUDA 生态的全面支持,使得 AI 开发更加便捷高效。此外,Alinux 3 还支持主流的 AI 框架 TensorFlow/PyTorch,intel/amd 等不同 CPU 平台对 AI 的优化,还将引入了 modelscope、huggingface 等大模型 SDK 的原生支持,为开发人员提供了丰富的资源和工具。这些支持,使得 Alinux 3 成为了一个完善的 AI 开发平台,解决 AI 开发人员的痛点问题,不用一直折腾环境,让 AI 开发体验更容易更高效。

Alinux 3 为开发人员提供了强大的 AI 开发平台。为了解决以上研发人员可能遇到的挑战,Alinux 3 提供了以下几点优化升级:

1. Alinux 3 通过引入龙蜥生态软件仓库(epao),支持开发者一键安装主流 NVIDIA GPU 驱动以及 CUDA 加速库,节省了开发者需要匹配驱动版本以及手动安装的时间。

2. epao 仓库中还提供了对主流 AI 框架 Tensorflow/PyTorch 的版本支持,同时安装过程中会自动解决 AI 框架的依赖问题,开发者无需进行额外编译,即可搭配系统 Python 环境进行快速开发。

3. Alinux 3 的 AI 能力在提供给开发者之前,所有组件均经过兼容性测试,开发者可以一键安装对应的 AI 能力,免去了环境配置中可能出现的对系统依赖项的修改,提高了使用过程中的稳定性。

4. Alinux 3 针对 Intel/AMD 等不同平台的 CPU 进行了 AI 专门优化,更好地释放硬件的全部性能

5. 为了更快的适应 AIGC 产业的快速迭代,Alinux 3 还将引入对 ModelScope、HuggingFace 等大模型 SDK 的原生支持,为开发人员提供了丰富的资源和工具。

在多维度的优化加持下,使得 Alinux 3 成为一个完善的 AI 开发平台,解决了 AI 开发人员的痛点问题,让 AI 开发体验更容易更高效。

以下以阿里云 GPU 实例为例子,演示 Alinux 3 对 AI 生态的支持:

1、购买 GPU 实例

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

以 GPU 实例演示 Alibaba Cloud Linux 3 对 AI 生态的支持

2、选择 Alinux 3 镜像

以 GPU 实例演示 Alibaba Cloud Linux 3 对 AI 生态的支持

3、安装 epao repo 配置

dnf install -y anolis-epao-release

4、安装nvidia GPU driver

安装 nvidia driver 之前先保证 kernel-devel 已安装,确保 nvidia driver 安装成功。

dnf install -y kernel-devel-$(uname-r)

安装 nvidia driver:

dnf install -y nvidia-driver nvidia-driver-cuda

安装完成后可以通过 nvidia-smi 命令查看 GPU 设备状态。

以 GPU 实例演示 Alibaba Cloud Linux 3 对 AI 生态的支持

5、安装 cuda 生态库

dnf install -y cuda

6、 安装 AI 框架 tensorflow/pytorch

当前提供 CPU 版的 tensorflow/pytorch,未来将支持 GPU 版的 AI 框架。

dnf install tensorflow -y dnf install pytorch -y

安装完成后可通过简单的命令查看是否安装成功:

以 GPU 实例演示 Alibaba Cloud Linux 3 对 AI 生态的支持

以 GPU 实例演示 Alibaba Cloud Linux 3 对 AI 生态的支持

7、部署模型

使用 Alinux 3 对 AI 的生态支持,可以部署 GPT-2 Large 模型来进行本文续写任务。

安装 Git 以及 Git LFS 方便后续下载模型。

dnf install -y git git-lfs wget

更新 pip,便于后续部署 Python 环境。

python -m pip install --upgrade pip

启用 Git LFS 的支持。

git lfs install

下载 write-with-transformer 项目源码,以及预训练模型。write-with-transformer 项目是一个网页写作 APP,可以使用 GPT-2 大模型对写作内容进行续写。

git clone https://huggingface.co/spaces/merve/write-with-transformer
GIT_LFS_SKIP_SMUDGE=1 git clone https://huggingface.co/gpt2-large
wget https://huggingface.co/gpt2-large/resolve/main/pytorch_model.bin -O gpt2-large/pytorch_model.bin

安装 write-with-transformer 所需要的依赖环境。

cd ~/write-with-transformer
pip install --ignore-installed pyyaml==5.1
pip install -r requirements.txt

环境部署完毕后,就可以运行网页版 APP,来体验 GPT-2 帮助完成写作的乐趣。目前 GPT-2 只支持使用英文进行文本生成。

cd ~/write-with-transformer
sed -i 's?"gpt2-large"?"../gpt2-large"?g' app.py
sed -i '34s/10/32/;34s/30/120/' app.py
streamlit run app.py --server.port 7860

回显信息出现 External URL: http://:7860 表明网页版 APP 运行成功。

以 GPU 实例演示 Alibaba Cloud Linux 3 对 AI 生态的支持

点击立即免费试用云产品:https://click.aliyun.com/m/1000373503/

原文链接:https://click.aliyun.com/m/1000379727/

本文为阿里云原创内容,未经允许不得转载。

以上就是以 GPU 实例演示 Alibaba Cloud Linux 3 对 AI 生态的支持的详细内容,更多请关注其它相关文章!


# 网易  # 开发人员  # 郑州seo公司选择20火星  # 西宁推荐seo  # 六安网站建设管理论文  # 股市SEO  # 荣昌网红草坪网站建设  # 深圳关键词排名点击  # 常州网站优化厂家  # 营销套餐推广视频怎么做  # 互联网站建设技巧  # 云南小红书营销推广招聘  # 等大  # 多维  # 一键  # 更容易  # 镜像  # 还将  # 是一个  # 操作系统 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 数字文明尼山对话 | 在东方圣城与AI潮流梦幻联动,看“智慧大脑”让数字山东更美好  苹果头显降临,AI虚拟人的救星还是流星?  乐天派桌面机器人加入小米米家生态系统,实现与其他智能设备的互联  全国体育人工智能大会举办,专家聚焦体育人工智能领域人才培养  AMD在AI方面奋起直追,与英伟达的差距缩小了吗?  马斯克反讽人工智能AI炒作:“机器学习”本质就是统计  携程发布旅游行业垂直大模型 梁建章:AI策略是做可靠的内容 放心的推荐  干货满满,2025昆山元宇宙国际装备展等你来打卡!  一次购买全年省心,入手科沃斯这几台机器人,省下时间就是金钱  抛媚眼给瞎子看?微软、谷歌的AI广告被广告主抵制  Meta开源文本生成音乐大模型,我们用《七里香》歌词试了下  给小朋友最好的科技礼物:乐天派桌面机器人  苹果机器学习关键人物 Ali Farhadi 离职,回归 AI2 担任 CEO  “直击”AI新世界,智能机器人再次“火出圈”了  业内领先 四川大学华西第四医院甲状腺乳腺外科成功进入手术机器人时代  《上古卷轴5》AI高清材质包优化游戏中所有怪物  如何获得元宇宙的第一个属于自己的空间  机智云AI离线语音识别模组,让家电变得更加智能便捷  谷歌在人工智能领域没有“护城河”?  AI和ML推动联网设备的增长  吉林首例!机器人辅助下搭桥手术成功实施  无人机在电力巡检中的应用:全面解析高效巡检流程  眼球反射解锁3D世界,黑镜成真!马里兰华人新作炸翻科幻迷  智能客服进入AI 2.0时代 容联云发布语言大模型“赤兔”  2025“春晖杯”人工智能专场对接活动举办  科技有狠活|时光修复师 :用AI让昨日重现  水路两栖艇、消防灭火机器人……这个展览“黑科技”抢眼  时间、空间可控的视频生成走进现实,阿里大模型新作VideoComposer火了  图灵奖得主Hinton:我已经老了,如何控制比人类更聪明的AI交给你们了  速途网络成立“人工智能专家委员会”5位中美博士加盟  当孔子遇见AI|尼山的“数字”  杭州举办第19届亚运会,主题为「亚运元宇宙」的发布仪式举行  人工智能领域,突破难题:国产大模型“无源之水”问题得到解决。  苹果2万5的AR遭遇砍单95%:不及预期  生成式AI爆发,亚马逊云科技持续专注创新,助力企业数字化转型  贫穷让我预训练  小米又拿下国际比赛第一:AI翻译立功  酒店业将如何受益于人工智能的改变?  微软大牛加入ZOOM,AI人才大战打响  央广车联网亮相2025世界人工智能大会  李开复官宣新公司「零一万物」,进军 AI 2.0  微幼科技晨检机器人与人工晨检相比,有何优势  Unity 推出面向开发者的 AI 软件市场 AI Hub,股价飙涨 15%  人工智能产业协同创新中心:全产业链资源在这里汇聚  普林斯顿大学推出 Infinigen AI 模型,生成真实自然环境 3D 场景  网易云音乐内测上线“私人DJ” 打造AI推荐音乐助手  马斯克发推讽刺人工智能,机器学习本质是统计?  AIGC 风潮刮到游戏产业,巨人网络与阿里云达成“游戏 +AI ”合作  研究预测HPC支持的人工智能增长迅速  360发布认知型通用大模型“360智脑4.0” 全面接入360全家桶 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司