소개

이 사이트가 하는 일

Hands-on AI Lab은 사람들이 실제로 가진 하드웨어에서 AI 모델을 돌리면 어떤 일이 일어나는지 게시합니다. 장비는 두 대입니다. VRAM 12GB짜리 RTX 4070 Ti를 단 데스크톱과 Apple M4 Pro 노트북입니다. 둘 다 평범한 소비자용 하드웨어이고, 빌려 쓰는 A100에서는 겪지 않는 한계에 부딪힙니다. 이 사이트가 다루는 것이 그 한계입니다.

다루는 주제는 두 갈래입니다. 로컬 영상 생성이 먼저였습니다. 12GB 카드에서 ComfyUI와 Wan2.2를 돌리면 구체적이고 재현되는 실패가 나오는데, 다른 곳에는 제대로 정리되어 있지 않기 때문입니다. 로컬 언어 모델이 그다음입니다. 두 갈래가 같은 장비를 쓰기 때문에, CUDA GPU와 Apple Silicon을 비교할 때 모델과 양자화, 컨텍스트 길이를 고정할 수 있습니다.

게시하는 것

글은 그 뒤에 측정이 있을 때 게시합니다. 이 사이트의 모든 수치는 고정 시드와 실행 당시의 드라이버·런타임 버전, 측정 날짜가 적힌 실험 기록으로 이어집니다. 그 기록은 공개 저장소에 있고, 호환성 데이터베이스로 바로 들어갑니다. 기록도 출처 링크도 없는 주장이 있으면 페이지가 나가기 전에 빌드가 실패합니다.

예외는 작업 일지 하나이고, 예외라는 사실도 함께 표시합니다. 일지 글은 운영자가 실행 당시에 직접 적어 둔 기록을 나중에 다시 읽어 정리한 것이므로 「기록」 배지가 붙고, 그 수치는 다시 실행해서 측정한 값이 아닙니다.

실패한 설정도 성공한 설정과 함께 게시합니다. 12GB 카드에서 메모리가 모자랐던 설정 목록이, 새벽 3시에 막혀 있는 사람에게는 VRAM이 무엇인지 설명하는 또 하나의 글보다 쓸모 있습니다.

게시하지 않는 것

• 여기 있는 하드웨어에서 재현하지 못한 오류.
• 다른 사람에게서 가져온 벤치마크 수치를 직접 측정한 값처럼 적는 일.
• 사람이 최종 원고를 읽지 않은 채 생성해서 올린 글.
• 다른 사람의 영상·블로그·방송에서 가져온 화면 캡처.

이렇게 하지 않는 이유는 편집 정책과 AI 정책에 적어 두었고, 측정 절차는 방법론에 있습니다.

수익 구조

이 사이트에 협찬은 없습니다. 어떤 업체에도 여기 게시하는 내용에 대한 사전 검토나 승인 권한을 준 적이 없습니다. 계획은 하드웨어 추천 글에 제휴 링크를 넣고, 이후에 디스플레이 광고를 붙이는 것입니다. 둘 다 아직 시작하지 않았습니다. 제휴 링크가 들어가면 쓰인 자리에 표시하고 제휴 고지 페이지에서 설명합니다.

정정과 문의

측정값은 시간이 지나면 낡고, 실수도 생깁니다. 둘 다 정정을 통해 공개적으로 처리합니다. 글에 적힌 단계가 여러분의 장비에서 재현되지 않는다면 알려 주시면 도움이 됩니다. [email protected]로 메일을 보내거나 저장소에 이슈를 열어 주세요. 연락하는 방법은 문의 페이지에 더 적어 두었습니다.