본문 바로가기

llm

(2)
make.com, n8n 찍먹 1.LLM 서비스가 활성화 되면서, 자동화 서비스가 요즘 날개를 달았다.한동안 바빠서 손을 대지 않았던 자동화 서비스를 다시 만져보았다.역시 매뉴얼이나 글을 읽는것보다 직접 해 보는게 몇 만배는 학습이 빠르더라. 2.아무튼, make.com, n8n만 간단히 찍먹해 보았다. 3.n8n은 오픈소스로 내 시스템에 docker로 설치할 수 있어 편한면이 있다.상용 클라우드 버전과 기능이 동일하다고 하지만, 어드민 계정 제한이 있는 등 차이가 없진 않다.다만, 얘는 러닝 커브가 조금 가파르다. 4.Make.com 은 무료로 사용할 수 있는 기능에 제한이 약간씩 있고,2개만 자동으로 돌릴 수 있고..operation 횟수 제한 등이 있다.유료 모델이 다양해서 원하는 것 선택할 수 있다.몇 번 만져보니 사용하는 방..
vLLM vs. ollama vs. LM studio 성능... 편의성 등등.. LM Studio >>> ollama vllm은 아직 안 해봄. LLM API 서비스 제공을 위한 vLLM, Ollama, LM Studio의 비교 테이블성능 최적화높음 (PagedAttention 등)중간중간-높음API 지원강력함기본적있음사용 난이도높음 (전문가용)낮음 (초보자 친화적)중간 (GUI 제공)확장성높음중간중간커스터마이징높음중간중간-높음모델 지원Transformer 기반다양함다양함GPU 활용뛰어남좋음좋음메모리 효율성높음중간중간-높음배포 용이성중간 (설정 필요)높음중간커뮤니티 지원활발 (기술 중심)성장 중성장 중오픈소스YesYesNo (무료 버전 있음)UI/UX명령줄 중심명령줄 + 기본 UI그래픽 인터페이스다중 모델 관리가능쉬움매우 쉬움선택 시 고려사항:최고의 성능과..