Code Llama - 70 B - Instruct - Code Llama - 70 B - Instruct 프로그래밍 대형 모델

모델 이름 코드 L lama - 70 B - Inst ruct 모델 번호 : Code Lama - 70 B - Inst ruct 모델 유형 대형 모델 프로그래밍 릴 리스 날짜 2024 - 01 - 30 사전 교육 파일 크기 140 GB 지원 되는 중국 어 (중 국 어 최적 화) 아니오 지원 되는 최대 컨 텍 스트 길이 100 K 모델 매 개 변 수 수 (억) 7 00. 0 L lama 2 커뮤니티 라이 센 스 계약 L lama 2 커뮤니티 라이 센 스 계약 - 무료 상 용 라이 센 스 github.com/facebookresearch/codellama模型GitHub链接https:// huggingface.co/codellama/CodeLlama-70b-hf模型HuggingFace链接https:// Data Le ar ner AI 에 대한 모델 소개 코드 라 마 : 코드를 위한 오픈 기초 모델 (C ode L lama : Open Foundation Mod els for Code) ai.meta.com/research/publications/code-llama-open-foundation-models-for-code/论文地址（官方博客地址）https:// 기본 모델 기본 모델 없음 제작 사 : Facebook AI Code L lama - 70 B - Inst ruct 소개 Code L La MA 는 L lama 2 기본 모델을 기반으로 지속적인 훈련 과 미 세 조정 으로 얻은 코드 전 용 언어 모델 입니다 . L lama 2 를 상 속 하는 사전 훈련 은 완전히 초기 훈련 에 비해 눈에 띄 는 향상 입니다 . Code L lama 시리즈 는 2023 년 8 월 에 처음 출시 되었습니다 .그러나 700 억 개의 매 개 변 수 규모 의 대규모 모델 은 포함 되지 않습니다 . 2024 년 1 월 30 일 , Meta AI 는 Code Lama - 70 B 의 700 억 매 개 변 수 규모 의 버 전을 오픈 소 스 하여 세 가지 버 전을 포함 했습니다 . 코드 L lama - 70 B 모델 버전 모델 소개 Data Le ar ner 모델 정보 카드 주소 Code L lama - 70 B - Base Code L lama - 70 B 의 가장 기본적인 버전 은 다양한 프로그래밍 언어를 지원 합니다 . Code L lama - 70 B - Base 의 모델 정보 카드 에 액세스 하려면 클릭 하십시오 . Code L lama - 70 B - 파이 썬 Python 프로그래밍 언어 에 최적 화된 버전 입니다 . Code L lama - 70 B - Python 에 대한 모델 정보 카드 주소 Code L lama - 70 B - In stru ctor 명령 어 최적 화 프로그래밍 의 큰 모델 은 사용자의 텍스트 명령 어 생성 코드를 식별 할 수 있습니다 . Code L lama - 70 B - Inst ruct 모델 정보 카드 여기서 말하는 Code L lama - 70 B - In struct 는 명령 어 정 렬 최적 화 모델 이며 가장 강력한 모델 이며 , 단순한 코드 보 완 모델 이 아닌 사용자 명령을 인식 하고 명령 어를 기반으로 코드를 생성 할 수 있습니다 . Code L lama - 70 B - Base 와 Code L lama - 70 B - Python 의 기본 버전 과 비교 하면 더 나은 성 능을 발휘 합니다 . Code L lama 시리즈 모델 의 코 드는 매우 잘 수행 되었으며 오픈 소 스 Code L lama - 70 B 시리즈 의 업 그레이 드는 더 뚜 렷 했습니다 . 이 중 기본 버전 의 Code L lama - 70 B - Base 는 Human E val @ 1 에서 53. 0 점 , 명령 어 최적 화 버전 은 G PT - 4 논 문 에서 6 7. 8 점 (G PT 논 문 점 수는 67 점 , Microsoft 논 문 에서 82 점) 을 초 과 했습니다 . Data Le ar ner AI 가 수집 한 큰 모델 코드 리뷰 를 바탕으로 Code L lama - 70 B - Inst ruct 는 매우 우 수한 성 적을 거두 었습니다 . Gem ini Pro 를 넘어 선 것 :   Code L lama - 70 B - Inst ruct 는 오픈 소 스 사전 교육 모델 이기 때문에 목록 의 다른 모델 에 비해 이 점이 분명 합니다 .다른 모델 은 대부분 미 세 조정 또는 폐쇄 소 스 모델 입니다 . 공식 웹 사이트 의 논 문에 따르면 Code L La MA 의 특징 은 다음과 같습니다 . 긴 컨 텍 스트 미 세 튜 닝 을 통해 Code L La MA 시리즈 모델 은 최대 100, 000 개의 토 큰 을 지원 하며 4 K 만 지원 하는 L lama 2 보다 훨씬 우 수 합니다 .매우 긴 코드 파일 에서도 여전히 안정 적입니다 . Human E val 및 MB PP 와 같은 파이 썬 코드 생성 벤 치 마크 데이터 세 트 에서 가장 진보 된 점 수를 얻 었으며 , 특히 오픈 소 스 모델 과 비교 했을 때 가장 강력 했습니다 .또한 다 국 어 데이터 세 트 Multi PL - E 에서 강력한 성 능을 발휘 했습니다 . Code L La MA - In stru ct 는 생성 된 코드 데이터를 자체 감독 하여 명령 어를 미 세 조정 하여 모델 의 보안 , 유용 성 및 명령 어를 준수 하는 능력을 크게 향상 시킵니다 . 오픈 소 스와 상업 적 사용을 허용 하는 라이 센 스를 채택 하면 더 많은 연구 원과 기업이 Code L La MA 를 기반으로 혁신 하고 전체 기술 분야의 발전 을 촉진 할 수 있습니다 .