速览HAI
产品简介
腾讯云高性能应用服务(Hyper Application lnventor,HA),是一款面向 Al、科学计算的 GPU 应用服务产品,为开发者量身打造的澎湃算力平台。无需复杂配置,便可享受即开即用的GPU云服务体验。在 HA] 中,根据应用智能匹配并推选出最适合的 GPU 算力资源,以确保您在数据科学、LLM、AI作画等高性能应用中获得最佳性价比此外,HAI的一键部署特性让您可以在短短几分钟内构建如 StableDifusion、ChatGLM 等热门模型的应用环境。而对于 Al 研究者,我们的直观图形界面大大降低了调试的复杂度,支持jupyterlab、webui 等多种连接方式,助您轻松探索与创新。现在,只需打开浏览器,HAI 便为您打开了一片无限可能的高性能应用领域。
产品优势
目前腾讯云正联合CSDN共同发起腾讯云高性能应用服务HAI新品先锋体验官招募活动,申请内测且通过,即可获得10元腾讯云高性能服务HAI的无门槛代金券,直接使用服务无后顾之忧。
实践回顾
在本次活动中,官方有给出2个实验手册,同时每间隔一段时间还有技术直播,来自原厂的工程师为我们直播讲解使用方法及案例。那么今天就通过2个官方案例来带大家速通一下。
实验手册
来自官方活动群的信息:
第一个实验手册:如何利用HAI轻松拿捏AI作画
https://csdn-res-1253910586.cos.ap-nanjing.myqcloud.com/HAI-AIGC.html
第二个实验手册:未来对话:HAI创作个人专属的知识宇宙
https://csdn-res-1253910586.cos.ap-nanjing.myqcloud.com/HAI-ChatGLM2.html
特别提醒完成【实验如何利用HAI轻松拿捏AI作画】时,可以利用本次实验搭建的环境参与AIGC创作。作品图片私发给小助手,最好是横板高清图的,保证定制手提电脑包好看。
AIGC,点击即作画
模型选择
在HAI购买页面,选择AI模型下的SD(Stable Diffusion)进行部署即可,部署时长大约在10分钟左右!
服务访问
平台上选用模型的服务建立后,可以点击算力连接,进入到预置的AI模型界面或者Jupyter Notebook界面
SD直达创作
使用claude2生成prompts及参数建议,使用SD生成
claudeAI网页:https://claude.ai/
M:请你描述以下功夫熊猫,并且将描述转换为v1-5-prund-emaonly.safetensors版本可识别的prompt
C:好的,我会尽力描述功夫熊猫并转换为适合的prompt
一个非常可爱的熊猫,身穿橙色的道袍,头上戴着黑色的头巾,两手展开摆出功夫动作,眼神透露出精神和专注,表情认真严肃,周围没有任何人,只有这只熊猫在空旷的道场练武,背景是典型的中国功夫场景。
转换为 v1-5-prund-emaonly.safetensors 可识别的prompt:
A cute panda wearing an orange martial arts uniform and a black headband, posing in a kung fu stance with paws extended. Its gaze conveys focus and determination with a serious expression. It is alone practicing kung fu in an empty dojo, set against a typical Chinese martial arts background.
M:建议设置参数为?
C:对于生成功夫熊猫图片,我建议设置以下参数:
- Sampler: DPM++ 2M Karras
- CFG scale: 7
- Size: 512x512
- Model hash: 7460a6fa
- Seed: -1
- Steps: 30
- Strength: 0.75
- Face restoration: CodeFormer
关键参数说明:
- Sampler: DPM++ 2M Karras 可以生成更清晰细致的图像。
- CFG scale: 7 可以生成更高分辨率的图片。
- Size: 512x512 可以得到高清的图片效果。
- Model hash: 7460a6fa 指定使用 v1-5 版本模型。
- Steps: 30 进行足够的采样步骤以生成细节丰富的图像。
- Strength: 0.75 适当控制生成图像的语义一致性。
- Face restoration: CodeFormer 可以增强生成图像中的面部细节。
你可以根据自己的需要调整这些参数,生成理想的功夫熊猫图片。
SD成品
拓展
可以根据自身需求,额外增加功能,例如Deforum这种。
使用体验
个人使用来看,属于简洁版的SD,功能还是挺少的,相较之阿里云的PAI EAS上创建的SD还是有差距,但是可以在界面上面拓展,这也给了用户更多选择,轻装上阵!
对话未来,一键直达
话说第二个场景,就是GenAI对话,同样的步骤,只不过是将AI模型从Stable Diffusion换成了ChatGLM-2B,
实验手册给出了非常消息的操作步骤,包括有:
- 基于HAI部署的 ChatGLM2-6B 快速进行AI对话
- 基于HAI部署的 ChatGLM2-6B API 快速实现开发者所需的相关API服务
- 基于HAI部署的 ChatGLM2-6B API 快速实现模型的微调
那么用户直接去启动一个高性能服务实例,默认打开的页面就是原生的一个基础界面,UI效果这些还是不会有实验手册这样好,例如后面调用ChatGLM2-6B,通过使用Cloud Studio(云端 IDE),实现更加精美的页面。整体的一个操作流程用户层面来讲,就是Ctrl+C和Ctrl+V,CV大法无限好!
界面概览
这界面可以说是及其简单,极简风了
对话
M:用python3编写一个http服务器,开放9090端口,等待接收用户的发送消息,当用户发送请求来,打印用户的IP及其端口,并对用户发送的内容进行md5加密后,返回给客户端。
C:以下是一个使用Python的http.server模块和hashlib模块的简单HTTP服务器,可以实现您的需求。请确保您已安装了http.server模块。如果没有安装,请运行以下命令进行安装:
pip install http.server
然后,使用以下代码创建一个简单的HTTP服务器:
import http.server
import ssl
import hashlib
import sys
PORT = 9090
class MyHTTPRequestHandler(http.server.SimpleHTTPRequestHandler):
def end_headers(self):
self.send_header('Content-type', 'text/plain')
http.server.SimpleHTTPRequestHandler.end_headers(self)
class ThreadedHTTPServer(http.server.HTTPServer):
# 启用SSL
ssl_certfile = '/path/to/your/ssl/certificate.crt'
ssl_keyfile = '/path/to/your/ssl/private.key'
# 设置服务器和端口
server_address = ('', PORT)
# 创建一个ThreadedHTTPServer实例
httpd = http.server.ThreadedHTTPServer(server_address, MyHTTPRequestHandler)
# 启动服务器
print(f'Starting httpd...')
httpd.serve_forever()
if __name__ == '__main__':
server_address = ('', PORT)
httpd = ThreadedHTTPServer(server_address, MyHTTPRequestHandler)
print(f'httpd is listening at {server_address}')
httpd.serve_forever()
请将/path/to/your/ssl/certificate.crt和/path/to/your/ssl/private.key替换为您的SSL证书和私钥文件的路径。如果证书和私钥文件不存在,请提供正确的文件路径。
运行此代码后,您将看到一个简单的HTTP服务器,等待来自客户端的请求。每个请求将包括发送者的IP地址和端口,以及请求内容。请求内容将使用MD5进行加密,然后返回给客户端。
腾讯云Cloud Studio(云IDE)调用API
可以看出配合其自身生态产品,可玩性很高!
使用体验
遵循实验步骤进行部署,大概率不会出错,唯一可能会出错的地方,应该是显存消耗的问题,在用户运行ChatGLM-2B页面生成对话后,其显存几乎快爆掉了,那么这时如果用户没有将ChatGLM-2b这个页面进程给杀掉,那么后续的实验步骤就会报错,导致整个实验卡住。用户可以采取以下方式进行解决,这里提供一点思路:
- 用netstat -ntlp查看chatglm-2b页面端口,锁定其pid
- kill pid
- nvidia-smi查看状态
JupyterNotebook一览
看到实例配置,8毛8还是花的比较值的
总结&展望
- 现目前而言,腾讯云高性能应用服务HAI仍处于内测阶段,用户需要使用提交申请即可,作为快速入门来看,还是非常方便。
- 不足之点,例如资源量、可选规格等等。
- 实践操作中,拓展能力因为网络的问题,还是有很大的局限性
- 产品在计费上应该优化下,例如预置产品需要的时间其实并不短,而服务产品在用户临时不想使用后,只能选择销毁,请考虑增加关机或者暂停的功能,亦或给出打包快照的功能,用户想恢复,可以很快速拉起来
- 在产品详情中,缺乏指标体现,能给到用户看的数据就是网络流量的消耗,其次就是允许用户设置安全组规则。希望官方对其进行改进,可以让用户更加便捷的了解到服务的具体指标