AI타임스
맥북에서 돌리는 '무삭제 큐원 3.8' 등장...엔비디아 GPU·클라우드 없이 구동
알리바바 큐원 3.8 27B의 안전 제약을 없앤 변형 모델이 공개돼 맥에서 GPU나 클라우드 없이 구동할 수 있게 됐다.
사서의 짚기
오픈소스 모델의 안전장치를 없앤 변형이 계속 나오는 가운데, 이번엔 고가 GPU 없이 맥 통합 메모리만으로 돌아간다는 점이 진입 장벽을 낮춘다. 로컬 LLM을 저비용으로 실험하려는 개발자에게는 유용하지만 안전 필터가 빠진 만큼 오남용 우려도 함께 따라온다. 오픈소스 거버넌스와 로컬 추론 동향을 보는 이들이 참고할 사안이다.
원문 발췌
알리바바의 최신 오픈소스 대형언어모델(LLM) ‘큐원 3.8 27B’를 바탕으로 안전성 제약을 대폭 줄인 변형 모델이 공개됐다. 애플 실리콘의 통합 메모리를 활용하면 별도의 CUDA 기반 GPU나 클라우드 서버를 사용하지 않고도 개인용 맥에서 직접 구동할 수 있다는 것이 특징이다. 커뮤니티 개발자 조나단 코레티는 최근 알리바바의 ‘큐원 3.8 27B’를 기반으로 안전성 정렬을 크게 낮춘, 이른바 ‘무삭제(Uncensored)’ 버전을 허깅페이스를 통해 공개했다.특히 애플 실리콘 맥에서 별도의 CUDA 환경이나 클라우드 서버 없이 직