DeepSeek - R 1 - 0528 초강력 오픈소스!로컬 서버 제로 코드 배포 마법사: OpenStation
Deep Se ek - R 1 - 05 28 새로운 버전 모델 은 최신 오픈 소 스 이며 수학 추 론 , 코드 생성 및 기타 분야에서 획 기 적인 성 능 향 상을 달성 하고 환 상을 크게 줄 이며 핵심 성 능 지 표 는 선 도 적 인 폐쇄 소 스 모델 수준 에 도달 합니다 . Deep Se ek 모델 의 현지 화 배 포 가 필요한 사용자의 경우 원래 R 1 모델을 05 28 버전 으로 대체 하면 비즈니스 성 능 이 더욱 향상 됩니다 .
오늘 오픈 소 스 도구 인 Open Station 을 공유 하여 새로운 Deep se ek - R 1 - 05 28 모델 에 적응 하여 클 러 스터 내에서 새로운 모델 의 서비스 배 포 및 배 포 를 신속하게 완료 할 수 있으며 , 이 도구 는 또한 엔 터 프 라이 즈 사용자가 로 컬 서버 에서 Deep se ek - R 1 - 05 28 모델을 안전하고 편 리 하게 배 포 하고 사용할 수 있도록 간단 하고 효율 적인 서비스 관리 및 리 소 스 관리 기능을 제공합니다 .
다음은 도구 의 오픈 소 스 홈 페 이지 이며 , 다운로드 하여 자세한 내용을 이해할 수 있으며 , 프로젝트 홈 페 이지 의 " 사 용 자 커뮤니 케이션 " 모듈 을 통해 그룹 채 팅 및 기술 전문가 커뮤니 케이션 컨 설 팅 에 참여할 수 있습니다 .
Open Station 오픈 소 스 홈 페 이지 : 액세스
소프트웨어 소개
Open Station 은 기업 및 개발 자를 위해 설계 된 원 스 톱 대규모 모델 배 포 관리 플랫폼 으로 , 사용자가 빠르고 편 리 하게 대규모 모델 서비스를 배 포 하고 경험 할 수 있도록 지원 합니다 .이 플랫폼 은 완벽한 모델 관리 , 서비스 배 포 및 사용자 협 업 기능을 제공 하며 표준 Open AI API 인터페 이스 와 호 환 되며 효율 적인 추 론 엔진 이 내 장 되어 있으며 유 연 한 자원 확장 및 정 교 한 권한 관리 메 커 니 즘 을 제공합니다 .
Open Station 의 주요 기능은 다음과 같습니다 .
사용하기 쉬운 : 페이지 화 작업을 통해 Deep Se ek 와 같은 대규모 모델을 몇 번의 클릭 으로 신속하게 배 포 할 수 있습니다 .
표준 인터페 이스 : 배 포 된 서비스는 다양한 클 라이언 트 도구 에 신속하게 액세스 할 수 있도록 표준 Open AI API 호 환 인터페 이 스를 제공합니다 .
고 성 능 : S GL ang , v LL M 및 CPU 배 포 를 지원 하며 독립 형 및 분 산 배 포 를 지원 하며 효율 적이고 유 연 한 추 론 엔진 기능을 제공합니다 .
편 리한 리 소 스 관리 : 페이지 화 작업을 통해 플랫폼 노 드 리 소 스를 빠르게 추가 및 제거 합니다 .
로 드 밸 런 싱 : 서비스 인식 없이 신속 한 확장 및 축 소 기능을 지원 하는 통합 추 론 서비스 포 털 제공
사용자 인증 관리 : 사용자 차 원의 API - key 인증 관 리를 지원 하여 추 론 서비스에 대한 액세스 권한 제 어를 구현 합니다 .
사용 방법
1.모델 배 포
Open Station 에서 Deep se ek 및 Q wen 3 모델을 편 리 하게 배 포 할 수 있으며 모델 의 해당 버전 이름을 클릭 하면 모델을 자동 으로 다운로드 할 수 있으며 Deep Se ek - R 1 - 05 28 최신 버전 의 템 플 릿 은 이미 적응 을 완료 했습니다 .
Open Station 은 또한 배 포 를 위해 들어 오는 사용자가 지 정한 다른 로 컬 모델을 지원 합니다 .배 포 과정에서 선택한 컴퓨 팅 리 소 스에 따라 Open Station 은 v LL M , S GL ang 및 기타 다양한 프레 임 워크 를 사용하여 추 론 서비스에 CPU 및 GPU 가 속 을 제공합니다 .
서비스가 배 포 되면 대규모 모델 의 추 론 서비스 API 를 얻을 수 있습니다 .인터페 이스 에서 추 론 서비스 의 자원 점 유 량 및 건강 상태를 확인 하고 서비스 로 그 정보를 확인할 수 있습니다 .
2. 서비스 의 배 포
Open Station 은 사 서 함 서버 를 구성 하고 추 론 서비스 액세스 정보를 지정 된 사용자에게 배 포 하여 대규모 모델 서비스 의 대 량 관 리를 단순 화 합니다 .
구성 정보 에 따라 서비스 가 동 후 Open Station 사용자에게 새로운 서비스 사용 방법에 대해 메 일 형태로 알 립니다 .
3.리 소 스 관리
Open Station 은 여러 서버 의 컴퓨 팅 리 소 스 및 서비스 스케 줄 을 통합 적으로 관리 하고 인터페 이스 내에서 리 소 스 사용 량 및 운영 및 유지 보수 정보를 시각 적으로 볼 수 있으며 서비스 배 포 를 개 괄 적으로 볼 수 있습니다 .
Open Station 은 클 러 스터 노 드의 용 량 확장 및 확장 기능을 편 리 하게 제공 하며 , 인터페 이스 에 지정 된 서버 에 대한 기본 정보를 입력 하면 Open Station 에서 해당 서버 를 서비스 배 포 관리 범 위에 포함 할 수 있습니다 .
오픈 소 스 커뮤니티 에서 Open Station 다운로드 패키 지 또는 스크 립 트를 다운로드 하여 자세한 사용 방법을 확인할 수 있습니다 .동시에 " 사 용 자 커뮤니 케이션 " 모듈 에서는 전문가 그룹 채 팅 에 가입 하여 실시간 으로 질문을 문의 하고 제품 제안을 할 수 있습니다 .
gitee.com/fastaistack/OpenStation项目地址 :https://
延伸阅读:
暂无内容!