[주간 OSS 동향리포트] 가드레일을 설정하지 않아도 학습 과정에서 시스템 프롬프트준수하는 LLM 등장
Open UP에서는 지난 한 주의 국내외 공개SW 관련 동향을 모아 정리합니다.
자세한 기사 내용은 아래 기사 내용 중 굵게 표시된 제목을 클릭하시면 보실 수 있습니다.
인공지능(AI) 스타트업 아바쿠스 AI가 모든 시나리오에서 시스템 프롬프트(system prompts)를 엄격하게 따르도록 미세조정한 오픈 소스 LLM을 출시했습니다. 개발자들은 챗봇의 환각이나 탈옥을 방지하기 위해 시스템 프롬프트를 설정합니다. '리버레이트-큐원1.5-72B(Liberated-Qwen1.5-72B)'라고 불리는 이 모델은 알리바바의 파운데이션 모델 '큐원1.5-72B'를 베이스로 사용했습니다.
대부분의 오픈 소스 모델은 이를 완벽하게 실행하지 못하는 것으로 알려졌으나 아바쿠스 AI는 이를 해결하기 위해 특정한 데이터셋으로 모델을 미세조정하였습니다. 이 방면에 다소 취약했던 오픈 소스 개발자들에게 유용하다고 설명하였습니다.
이를 통해 모델이 사용자 요구를 벗어나는 경우도 강제로 시스템 메시지를 준수하도록 학습하였습니다.
리버레이트 모델은 현재 허깅페이스를 통해 오픈소스로 메이저 놀이터(https://huggingface.co/abacusai/Liberated-Qwen1.5-72B)됐으며, '큐원 라이선스'에 따라 1억명 이상 사용자를 보유한 경우에는 알리바바 측에 별도 라이선스를 요청해야 합니다.
□허깅페이스, AI 이어 오픈소스 로봇 프로젝트 시작(ZDNet Korea)
인공지능(AI) 저변 확대를 이끈 기업 중 하나인 허깅페이스가 AI에 이어 로봇 개발에 박차를 가한다. 7일(현지시간) 미국 지디넷 등 외신에 따르면 AI 연구원 레미 카데네는 개방형 로봇 프로젝트에 참여하기 위해 허깅페이스에 합류했다고 X(과거 트위터)를 통해 밝혔다. 레미 카데네는 테슬라 출신 AI 연구원으로 자율주행과 인간형 로봇인 테슬라 옵티머스 개발에 참여했다.
- OpenUP -
| 번호 | 제목 | 조회수 | 작성 |
|---|---|---|---|
| 10901 | 월드코인 ‘오브’ 오픈소스화 + 개인정보 보호 기능 추가 | 1609 | 2024-03-26 |
| 10900 | AMD, 오픈소스 업스케일링 기술 'FSR 3.1' 메이저 놀이터 | 1392 | 2024-03-26 |
| 10899 | [주간 OSS 동향리포트] 오픈소스 로보틱스 얼라이언스(OSRA)를 출범, 엔비디아, 퀄컴 핵심 멤버로 참여 | 1965 | 2024-03-26 |
| 10898 | MS, 차세대 원격 캐시 저장소 기술 '가넷' 선봬…"오픈소스로 보증 사이트 추천" - 보증 사이트 | 1572 | 2024-03-22 |
| 10897 | 엔비디아·퀄컴, 신설 오픈소스로보틱스동맹(OSRA) 참여 | 1478 | 2024-03-22 |
| 10896 | 인젠트, 건대 홈페이지 리뉴얼 오픈…“외산 DBMS 대체” | 1594 | 2024-03-21 |
| 10895 | [인터뷰] 김택완 메이저 놀이터SW협회장 “중국도 사활 건 오픈소스, 국내 전문가 양성해야” | 1517 | 2024-03-21 |
| 10894 | [주간 OSS 동향리포트] 가드레일을 설정하지 않아도 학습 과정에서 시스템 프롬프트준수하는 LLM 등장 | 2347 | 2024-03-20 |
| 10893 | 투디지트, '오픈 KO-LLM 리더보드' 1위 AI 모델·코드 전격 메이저 놀이터 | 1849 | 2024-03-20 |
| 10892 | 글로벌 칼럼 | 오픈소스의 진짜 위험은 ‘배포’에 있다 | 1621 | 2024-03-19 |
0개 댓글