在人工智能的黄金时代,数据科学家和AI工程师正面临着一个共同的挑战:如何快速、有效地将开发中的服务部署至公网,以应对日益增长的计算和访问需求。GpuMall智算云平台提供了一个全面的解决方案,让这一切变得简单。本文将深入探讨GpuMall如何使用GPU云服务器为AI项目带来突破。
在 GpuMall 平台使用该功能可以帮您把实例内的服务暴露到公网进行访问,该服务可以是 Web项目、API接口、Stable Diffusion web UI、以及任何监听了 HTTP、TCP 端口类型的进程。
使用该功能注意事项:
严禁通过该功能提供色情、暴力、违规图片、不正当文字等一切违反国家规定、安全等行为;GpuMall平台将实时对该功能图片、文字、网络流量等行为进行检测,一经发现,平台将立即封号且保留通过法律途径追究责任,赔偿平台经营损失。
使用该功能必须进行实名认证后方可使用。
下面将演示该功能的使用流程:
1. 进行实名认证
登录 GpuMall 控制台,点击 账户管理,进行实名认证,实名认证提交后会在 0-3 个工作日通过审核。
2. 创建实例
创建实例过程请参考创建实例
3. 创建自定义端口
到实例控制台-》找到对应实例-》更多-》创建自定义端口(实例需要在运行状态)
4. 添加自定义端口配置
点击添加端口配置
配置端口:
- 输入您项目在实例中监听的端口
- 比如,您在实例中的进程监听的端口为 8080,那就在下面图中填写为 8080,如为 9000 就填写为 9000。
- 每台实例支持两个对外暴露的端口,然后点击确定。
5.填写完成后等待重置端口完成
6.点击自定义端口进行访问
然后点击 自定义端口8080 或者 自定义端口9000 会跳转到对应公网可以访问的 URL,该地址为平台自动分配的公网端口以及地址。
映射关系:
- 我这里点击自定义端口8080,浏览器自动跳转了 http://xxxxxxxx.gpumall.com:60000/。
- 8080 端口为实例内所监听的端口http://xxxxxxxx.gpumall.com:60000/ 为 GpuMall 平台自动分配的公网地址和端口。
- xxxxxxxx.gpumall.com 域名的 60000 端口会与您实例内的 8080 端口自动绑定为映射关系。
- 您在浏览器或者公网可以通过 http://xxxxxxxx.gpumall.com:60000 访问到您实例中 8080 端口所运行的服务。
7. 在实例中启动需要对外暴露的服务
提示:如下定义了一个简短的HTTP服务器,指定监听地址为0.0.0.0,监听端口为9000,您的项目如果需要对公网访问,监听地址就必须写为 0.0.0.0,否则网络转发不可达,则无法通过公网访问。
main.py
from http.server import BaseHTTPRequestHandler, HTTPServer
class SimpleHTTPRequestHandler(BaseHTTPRequestHandler):
def do_GET(self):
self.send_response(200)
self.send_header('Content-type', 'text/plain')
self.end_headers()
self.wfile.write(b"Hello, This is a custom service provided by GpuMall !")
host = "0.0.0.0"
port = 9000
with HTTPServer((host, port), SimpleHTTPRequestHandler) as server:
print(f"Server started at http://{host}:{port}")
server.serve_forever()
启动该项目
python main.py
然后到控制台点击 自定义端口9000 进行访问即可。