전체 글251 MistralAI - 최고의 성능까지 갖춘 최초의 Apache 2.0 라이선스 LLM 모델 등장 현재 X (트위터) 에서 가장 많이 언급되고 있는 키워드가 아마도 Mistral이 아닐까 싶은데요. 아마도 Meta의 Llama2 가 이끌고 있던 오픈 LLM 진영에 새로운 돌풍이 일고 있는 것 같습니다. 현재 공개된 모델은 73억(7.3B) 매개변수를 가진 Mistral 7B 입니다. LLM으로는 처음으로 Apache 2.0 라이선스로 공개하였으며, 제한 없이 사용할 수 있습니다. 참고로 Meta의 Llama는 처음에 GPLv3 로 공개했다가, 사용 제약등으로 인해 현재는 LLAMA 2 COMMUNITY LICENSE 로 오픈소스로 분류되진 않고 있습니다. (LLaMa 2 라이선스는 오픈 소스가 아닙니다.) Mistral 7B는 사용 제한도 없는데다가 성능까지도 획기적으로 올라간 벤치마크도 공개했습니다.. 2023. 10. 6. 재미있는 그림으로 살펴보는 케이서브의 ML 모델 서비스 알렉사 니콜 그리피시, 블룸버그 https://youtu.be/CIMQsOZra_U?si=sr3D74gjL2lq0UnP 쿠버네티스는 컨트롤러 패턴을 구현하며, 컨트롤 플레인은 점선 안에 표현됩니다. 각 컴포넌트는 여러 하위 컴포넌트를 포함하며, 각 컴포넌트는 시스템의 다른 부분을 담당합니다. 따라서 API 서버는 일부 요청을 처리하는 프론트 엔드 역할을 합니다. 스케줄러는 노드의 스케줄링과 퇴거 등을 관리합니다. 마찬가지로 노드 자체에도 시스템이 원활하게 실행되도록 하는 구성 요소가 있습니다. 예를 들어, 트래픽을 위해 노드 간 통신을 허용하는 네트워크 프록시가 있습니다. 그리고 DNS와 같이 플러그인 가능한 다른 애드온도 있습니다. 따라서 쿠버네티스는 사용자 정의 리소스 정의를 생성할 수 있습니다. 대부분의 사용자는 이것과 커스텀 컨.. 2023. 10. 5. Java 21이 릴리즈 되었습니다. 예정대로 9월 19일자로 Java 21 GA 릴리즈 되었습니다. (이미지 출처 - Inside Java) 1. Java 21 Release Note Java 21 전체 릴리즈 노트는 여기서 확인할 수 있습니다. - https://jdk.java.net/21/release-notes - https://inside.java/2023/09/19/the-arrival-of-java-21 2. 주요 기능 요약 Java 21에 추가되는 새로운 기능들 중 Preview나 Incubator는 제외하고, 주요 기능만 살펴보면 아래와 같습니다. 2.1 Virtual Threads (Project Loom) 가 추가됩니다. (JEP 444) "가상 스레드가 마이크로서비스에서 엔터프라이즈 애플리케이션에 이르기까지 비동기 애플.. 2023. 9. 20. 기술 문서 학습 후 코드를 작성해주는 VS Code 플러그인 - Cursor AI 가 나 대신 기술 문서를 학습해서 코드를 작성해 준다면 얼마나 좋을까 생각해보신 적 있나요? Code Assistant 대부분은 사전에 학습이 이뤄졌기 때문에 실제 코딩에 사용하려면 실제 많은 어려움이 있습니다. 학습 데이터는 개발자가 많이 쓰는 코드 패턴에 의존적이고, 문서를 참고하여 학습하지 않았기에 의도와 다르게 제안할 가능성이 있죠. 특히 새로 나온 기능이나, 새로운 라이브러리를 쓰려면 불가능하죠. 여기, 기술 문서 URL 을 넣으면 문서들을 학습하고, 그에 맞춰 코드를 작성해주는 AI 도구가 있습니다. Cursor - https://www.cursor.so 1. 기술 문서 추가하기 VS Code 에 Cursor 를 설치하면 우측에 채팅 인터페이스가 나오며, 기술 문서를 추가할 수가 있습니다.. 2023. 8. 29. GPT-3.5 파인 튜닝 후기 OpenAI GPT-3.5 파인 튜닝이 가능해져서 테스트를 진행해 보았습니다. >> OpenAI, 오늘부터 GPT-3.5 파인 튜닝 가능 1. 춘식이가 누구야? messages = [ {"role": "system", "content": "Kakao Friends Assistant Bot"}, {"role": "user", "content": "춘식이가 누구야?"} ] 답변 춘식이는 카카오 프렌즈 캐릭터 중 하나로, 파랑색 토끼 모습을 하고 있습니다. 춘식이는 친구들과 함께 놀고 먹는 것을 좋아하며, 언제나 밝고 활발한 성격을 가지고 있습니다. ChatGPT 에는 춘식이 정보가 없으므로 춘식이에 대한 질문에 토끼 모습을 하고 있다며, 환각(Hallucination)이 발생하는 것을 확인 할 수 있습니다... 2023. 8. 23. OpenAI, 오늘부터 GPT-3.5 파인 튜닝 가능 현재 GPT-3.5 터보에 대한 미세 조정이 가능하며, 올가을에는 GPT-4에 대한 미세 조정이 제공될 예정입니다. 이 업데이트를 통해 개발자는 사용 사례에 맞게 더 나은 성능을 발휘하는 모델을 사용자 지정하고 이러한 사용자 지정 모델을 대규모로 실행할 수 있습니다. 초기 테스트 결과, 미세 조정된 GPT-3.5 터보 버전은 특정 좁은 작업에서 기본 GPT-4 수준의 기능과 일치하거나 심지어 그 이상의 성능을 발휘할 수 있는 것으로 나타났습니다. 모든 API와 마찬가지로, 미세 조정 API를 통해 주고받은 데이터는 고객이 소유하며 OpenAI 또는 다른 조직에서 다른 모델을 훈련하는 데 사용되지 않습니다. 파인 튜닝 비용 정책 미세 조정 비용은 초기 교육 비용과 사용 비용의 두 가지 버킷으로 나뉩니다: .. 2023. 8. 23. 이전 1 2 3 4 5 ··· 42 다음
