해당논문은 LLM모델의 양자화와 성능의 상관관계에 대해서 기술한 논문으로, 최근 ollama 와 같은 local LLM 실행을 편리하게 도와줄 수 있는 기술들이 많이 등장한 가운데에 주목할만한 논문이다.만약 양자화에 대해서 잘 모른다면 아래 포스팅을 참고하길 바란다. [LLM] 양자화 기술양자화는 모델의 가중치와 활성화를 고정밀도 데이터 표현(F32)에서 저정밀도 데이터 표현으로 변환하는 모델 압축 기술쉽게 말해 복잡한 정보를 저장할 수 있는 데이터 유형에서 더 적은 정보velog.io 포스팅에 앞서해당 논문에 관심을 가지게 된 계기는 ollama에 배포된 대부분의 LLM 모델들이 4bit 양자화를 채택하고 있기 때문이다.4bit이면 상당히 낮은 bit의 양자화 수준이라고 할 수 있다. 32bit : 양..

1. PPI 란?Pixels Per Inch즉 1인치당 얼마나 많은 픽셀이 들어갈 수 있는지 나타내며, 아래와 같은 공식으로 계산할 수 있다.$$ \text{diagonal} = \sqrt{\text{width}^2 + \text{height}^2} $$대각선(diagonal)의 길이는 피타고라스 공식을 통해 간단히 계산할 수 있으며이 대각선의 길이가 1인치일 때 해당 범위 내의 픽셀이 몇 개인지 구하면 된다.$$ \text{PPI} = \dfrac{\text{diagonal in pixels}}{\text{diagonal in inches}} $$  2. PPI 프리셋1인치당 픽셀이 많을수록, 화면이 더 선명해진다.대중적으로 사용되는 모니터들의 PPI를 살펴보자 FHD(1920 x 1080)InchPP..

Firefox Sidebar and Vertical tabs: try them out in Nightly Firefox Labs 131 – Firefox Nightly NewsWe are excited to share that vertical tabs and a new sidebar experience are now available in Nightly 131. This update has been highly anticipated and requested by the community, ...blog.nightly.mozilla.org24년 8월 7일 Firefox 블로그에서 드디어 Vertical Tab 기능을 지원한다는 포스팅을 기재했다.내가 아는 바에 의하면 Vertical Tab을 온전히 지원하..

VMware Workstation Pro 는 가상머신 프로그램으로서Broadcom에 인수된 상황이다.그런데 문제는 Broadcom이 인수하면서 웹사이트의 편의성이 많이 안좋아졌다.따라서 VMware Workstation을 다운로드 하는 방법 역시 까다로워 졌다.아무리 Broadcom 이 B2B에 치중되어 있다지만,유저 경험에 있어서 신경을 안 쓴 치명적인 UI로 여러 커뮤니티에서 욕받이가 되고 있다(...) Broadcom 사이트에서 다운받는게 까다로우니 아카이빙된 파일을 다운받아 사용하는 유저들의 모습을 볼 수 있는데,이는 위험한 방식이다.Broadcom 사이트에서 직접 다운로드 받는것을 추천하며, 그 방법에 대해서 소개한다.   1. Broadcom 사이트에 회원가입 & 접속 Home - Suppor..

기본적으로 Canoncial Ubuntu 공식 홈페이지에서 제공하는 방법을 따른다. https://ubuntu.com/tutorials/configure-ssh-2fa#1-overview ubuntu.com다만 해당 Guideline 기준 다른점이 하나 존재하고,몇몇 설정에 관해 설명이 필요할 듯 싶어 포스팅을 작성한다. 1. 사전에 알아두어야 사항Ubuntu 16.04 LTS 버전 이상을 구동할 수 있는 컴퓨터안드로이드 또는 IOS 휴대폰구성된 SSH 연결비밀번호 도난의 위험성을 이해2FA가 무엇인지, 어떻게 작동하는지 알 필요는 없다.실질적인 준비물은 위에서 3가지 이며, 대부분 사용자가 충족할 것이라 생각된다. '비밀번호 도난의 위험성을 이해' 에 대한 이야기를 하자면,키보드 후킹으로 인해 비밀번호..

현재 Docker Desktop은 상업적 이용시 대기업 유료화 정책을 채택하고 있다.때문에 개인적으로 Docker Desktop을 사용하는것을 선호하지 않고,개인 작업 환경에서도 WSL2 를 통해 Docker Engine을 사용하는 방식으로 사용하고 있다. 최근 Ubuntu LTS 버전이 24.04 로 업데이트 되기도 하였고,바빳던 개인 작업이 끝나 Docker 저장소를 밀어버리고WSL2 내부에 Docker를 새로 세팅하려고 작업을 준비하는데 최근 Guideline은 Docker Desktop을 통해 작업하도록 되어있다.이러한 방법은 대부분의 User에게 보다 편한 방법이기에 권장될만하다 본다.하지만 나는 Docker Engine을 직접 설치해 사용하는것을 선호한다. WSL2 에 Docker Engine..

해당 문제는 골드 3 티어이지만, 나는 동의하지 않는다.골드 2티어에서 골드 1티어까지 부여할만한 문제라고 생각한다.문제 자체를 이해하는 과정이 직관적이지 않기에다른 골드 3 티어 문제보다 난이도가 높다고 생각한다.#include #include #include #include class baekjoon_17142{public: int N, M; int blank_count{}; std::vector> loc_virus; // 바이러스의 위치를 기억할 벡터 std::vector> content; int directions[4][2] = {{1, 0}, {-1, 0}, {0, -1}, {0, 1}}; // 동서남북 const int MAX_INT = 2147483647; // 모든 가능한 조합을 저장할 이..

해당 문제는 삼성 SW 역량 테스트 에서 출제된 문제로골드 3 티어의 적절한 난이도를 지니고 있는 문제이다. 2차원 벡터를 기준으로 각 행, 열이경사로를 설치하여 '지나갈 수 있는 길인지' 구하는 문제이다. #include #include #include class baekjoon_14890{public: int N, L; bool constraint(const std::vector& line) { int value_before = line[0]; int limitPoint = 0; for (int i = 1; i = 2) return false; // 현재값이 이전 값보다 1 작을 경우. ..

저는 Microsoft 의 Surface 제품군들을 참 좋아합니다.특히 그 중 Surface Pro 8 을 구입해서 2년여 정도 잘 사용하고 있었는데,최근 들어 발열로 인한 쓰로틀링이 매우 심하게 느껴졌습니다. CPU 클럭이 0.58Ghz 정도까지 다운되는데, 간단한 워드 작업이나,웹서핑 등을 할 때도 간헐적으로 발생해서 짜증이 나는 수준입니다.고작 저런 작업을 하는데 CPU 온도가 78도 까지 상승해 버리니;;아무리 11세대 Intel CPU 가 발열이 심하다고 하지만, 구입 당시에는 이정도가 아니였습니다.때문에 이놈의 서피스에 서멀 그리스 재도포를 하기로 결심 했습니다.서피스와 같은 액정 테블릿을 분해할 때 가장 난이도가 높은 작업은 바로 액정을 분해하는 일입니다.보통 분해시 액정을 깨먹는일이 잦습니..

해당 문제는 BFS, DFS 를 통해 해결할 수 있는 문제이다.난이도는 실버 2 티어이다. 연습하기 좋은 문제라고 느껴 BFS, DFS 두가지 유형으로 모두 풀어보았다.소스코드에 적절한 주석을 작성해 두었으므로, 보면서 이해하면 좋다. BFS#include #include #include #include class baekjoon_1012_bfs{public: static const int MAX = 50; int field[MAX][MAX]; bool visited[MAX][MAX]; int directions[4][2] = {{-1, 0}, {1, 0}, {0, -1}, {0, 1}}; // 서, 동, 남, 북 int M, N, K; // 핵심은 bfs를 통해서 vi..