VS Code Continue에 Ollama 연결하는 법 | Mac 로컬 AI 코딩 도우미 만들기

Ollama를 설치하고 모델도 받아봤는데요.

터미널에서 질문을 던지고 답을 받는 것까지는 재미있었습니다. 그런데 조금 지나니 이런 생각이 들더라고요.

“이 모델을 VS Code 안에서 바로 코딩 도우미처럼 쓸 수는 없을까?”

그래서 VS Code에 Continue 확장 프로그램을 설치하고, Mac에서 실행 중인 Ollama 모델을 연결해 봤습니다.

제가 테스트할 때는 qwen3.5:9b-mlx를 골랐는데요. Continue 안에서 현재 파일을 보면서 질문하고 코드를 작성하게 하니, 터미널 기반 Agent를 쓸 때보다 답변이 꽤 빠르게 느껴졌습니다.

다만 여기서 중요한 점이 있습니다. 빠르게 느껴졌다고 해서 무조건 더 좋다거나, 만들어 준 코드가 늘 정확하다는 뜻은 아니었습니다. 실제로는 Chat, Edit, Agent가 하는 일이 다르고, 어떤 파일을 읽고 무엇을 바꾸는지도 제가 계속 확인해야 했습니다.

오늘은 VS Code Continue에 Ollama 연결하는 방법을 Mac 초보자 기준으로 하나씩 정리해 보겠습니다. 설치 방법뿐 아니라, 처음 테스트할 때 무엇을 조심해야 하는지도 함께 적어보겠습니다.

Ollama 설치와 첫 모델 선택이 아직이라면 아래 글부터 먼저 보셔도 좋습니다.

→ Ollama 설치 후 첫 모델 고르는 법 | Mac 초보자를 위한 로컬 AI 입문

비주얼 스튜디오 코드를 아직 설치 전? 혹은 다시 설치를 원하신다면 아래 공식 링크를 활용해서 간단히 설치해 보셔도 좋을 듯 합니다.

➲ VS 다운로드

Continue는 무엇인가요?

Continue는 VS Code나 JetBrains 같은 개발 도구 안에서 AI와 대화하고, 코드를 설명받고, 필요한 경우 파일 수정까지 할 수 있게 도와주는 코딩 도우미입니다.

헷갈리기 쉬워서 아주 간단히 나누면 아래처럼 이해하면 편합니다.

도구	역할
VS Code	코드를 열고 수정하는 작업 공간
Continue	VS Code 안에서 AI와 연결되는 코딩 도우미
Ollama	내 Mac에서 AI 모델을 실행하는 로컬 서버
qwen, gemma 같은 모델	질문에 답하고 코드를 만드는 실제 AI 모델

즉, Continue가 모델 자체는 아닙니다. Continue는 VS Code와 AI 모델을 연결해 주는 인터페이스에 가깝고, Ollama는 그 모델을 내 Mac 안에서 실행해 주는 도구입니다.

시작 전에 확인할 것

이번 글은 아래 준비가 되어 있다는 기준으로 진행합니다.

• Mac에 VS Code가 설치되어 있음
• Mac에 Ollama가 설치되어 있음
• Ollama 모델을 한 개 이상 받아둠
• 터미널에서 ollama list를 사용할 수 있음

모델 이름은 꼭 제가 사용한 것과 같을 필요는 없습니다. 다만 ollama list에 표시되는 정확한 모델 이름을 Continue에서도 그대로 선택해야 합니다.

1) 설치된 모델 목록 확인

ollama list

여기에서 내가 쓸 모델이 실제로 보이는지 먼저 확인해 주세요. 예를 들어 qwen3.5:9b-mlx처럼 태그까지 정확히 봐두는 것이 좋습니다.

2) Ollama 서버 응답 확인

curl http://localhost:11434

정상이라면 Ollama가 실행 중이라는 응답이 나옵니다. 이 확인을 해두면 “Continue에서 모델이 안 보인다”는 문제를 조금 더 쉽게 분리해서 볼 수 있습니다.

만약 Ollama 앱이 이미 실행 중인데 다시 ollama serve를 입력하면 address already in use 같은 메시지가 나올 수 있습니다. 이런 경우에는 서버가 고장 난 것이 아니라, 이미 같은 포트를 사용 중일 가능성이 큽니다.

VS Code에 Continue 설치하기

1. VS Code를 실행합니다.
2. 왼쪽 메뉴에서 Extensions[확장]를 눌러 주세요.
3. 검색창에 Continue를 입력합니다.
4. Continue 확장 프로그램을 확인하고 Install[설치]을 누릅니다.
5. 설치가 끝나면 Continue 아이콘 또는 패널을 열어 주세요.

버전에 따라 Continue 패널 위치나 버튼 이름은 조금 다를 수 있습니다. 하지만 핵심은 “VS Code 안에 AI 대화창이 열리는가”입니다.

[잡답]
저도 사실 VS Code에 처음으로 확장프로그램? 플러그인을 설치해봅니다. 이렇게 하나씩 알아가는 즐거움이 있다고 생각해요. 나이가 들어도 호기심은 여전해서 다행이란 생각까지도 들더라고요.

설치가 끝나면 Continue 패널을 열어 주세요. 이 단계에서 바로 질문을 하기보다, 먼저 모델 연결부터 확인하는 편이 좋습니다.

Continue에 Ollama 모델 연결하는 법

Continue는 Ollama에 설치된 모델을 자동으로 찾는 기능을 제공합니다. 처음에는 이 방법이 가장 간단합니다.

1. Continue 패널 안의 모델 선택 메뉴를 눌러 주세요.
2. Ollama 또는 Autodetect를 선택합니다.
3. 잠시 기다리면 로컬 Ollama 모델 목록이 표시됩니다.
4. ollama list에서 확인한 모델 이름과 같은 항목을 선택합니다.

제 테스트에서는 qwen3.5:9b-mlx를 골랐습니다. 다만 이 모델이 모든 Mac에 가장 좋다고 단정할 수는 없습니다. 메모리, 작업 방식, 원하는 품질에 따라 더 맞는 모델이 달라질 수 있기 때문입니다.

중요한 것은 모델 이름이 비슷해 보여도 서로 다른 모델일 수 있다는 점입니다. 예를 들어 :8b, :14b, :mlx, :latest는 같은 이름처럼 보여도 실제로는 다르게 동작할 수 있습니다.

자동 검색이 안 되면 어떻게 하나요?

Autodetect에서 모델이 안 보인다면 Continue의 로컬 설정 파일을 확인해 볼 수 있습니다.

~/.continue/config.yaml

예시는 아래처럼 볼 수 있습니다.

name: Local Ollama
version: 0.0.1
schema: v1

models:
  - name: Qwen 3.5 9B MLX
    provider: ollama
    model: qwen3.5:9b-mlx
    apiBase: http://localhost:11434
    roles:
      - chat
      - edit

여기서도 가장 중요한 것은 model: 값이 ollama list와 정확히 맞아야 한다는 점입니다.

다만 설정을 직접 넣는다고 해서 모든 기능이 자동으로 완벽해지는 것은 아닙니다. 일부 모델은 Chat은 잘 되는데 Agent 도구 사용은 약할 수 있습니다. 그래서 처음부터 “모든 작업을 Agent에게 맡긴다”는 접근은 권하지 않습니다.

처음에는 읽기 전용으로 테스트해 보세요

연결이 끝났다고 바로 중요한 프로젝트를 수정하게 하는 것은 권하지 않습니다.

저도 로컬 Agent를 테스트하면서 느낀 부분인데요. “파일을 수정할 수 있다”는 것과 “파일을 정확하고 안전하게 수정한다”는 것은 다른 이야기였습니다.

처음에는 테스트 폴더를 하나 따로 만든 뒤 아래처럼 요청해 보는 것이 좋습니다.

현재 열려 있는 파일을 수정하지 말고,
이 코드가 무엇을 하는지 한국어로 5줄 이내로 설명해 주세요.

그다음에는 수정 없이 계획만 물어봅니다.

원본을 바로 수정하지 말고,
어디를 어떻게 바꾸면 좋을지 먼저 설명해 주세요.
제가 확인한 뒤에만 수정안을 적용하겠습니다.

이 과정을 거치면 AI가 현재 파일을 얼마나 이해하는지, 그리고 불필요하게 공격적으로 수정하려 하는지 어느 정도 감을 잡을 수 있습니다.

Chat, Edit, Agent는 무엇이 다른가요?

모드	주요 용도	초보자 관점의 주의점
Chat	코드 질문, 설명, 오류 원인 파악	가장 먼저 써보기 좋습니다.
Edit	선택한 코드 또는 파일 수정안 생성	적용 전 수정 내용을 꼭 확인하세요.
Plan	프로젝트를 읽고 작업 계획 세우기	읽기 중심으로 확인할 때 유리합니다.
Agent	파일 생성·수정, 검색, 명령 실행	처음부터 운영 프로젝트에 쓰기엔 위험할 수 있습니다.

여기서 중요한 것은 기능 이름만 보고 과신하지 않는 것입니다. Agent 모드가 된다고 해서 항상 알아서 똑똑하게 처리하는 것은 아닙니다. 실제로는 어떤 파일을 읽고, 어떤 명령을 실행하려 하는지 사람이 계속 봐야 합니다.

또한 Continue는 대화형 모델과 자동완성용 모델을 따로 둘 수 있습니다. 그래서 화면 아래에 하나의 모델 이름이 보인다고 해서, 모든 기능이 항상 같은 모델로 작동한다고 단정하면 안 됩니다.

Continue에서는 왜 더 빠르게 느껴졌을까요?

제가 qwen3.5:9b-mlx를 Continue에 연결했을 때는 답변과 코드 작성이 꽤 빠르게 느껴졌습니다. 반면 다른 로컬 Agent 환경에서는 같은 계열 모델이라도 더 느리게 체감된 적이 있었습니다.

다만 이 경험만으로 “Continue가 무조건 빠르다”거나 “다른 도구는 느리다”고 단정할 수는 없습니다. 같은 모델을 써도 실제로 모델이 받은 일의 종류가 다를 수 있기 때문입니다.

• Continue는 현재 파일이나 선택한 코드처럼 상대적으로 짧은 문맥으로 시작할 수 있습니다.
• 응답이 스트리밍으로 바로 보여서 첫 반응이 더 빠르게 느껴질 수 있습니다.
• 다른 Agent는 긴 시스템 지시문, 도구 목록, 파일 읽기·쓰기 판단을 함께 처리할 수 있습니다.
• 긴 context를 강제로 크게 잡으면 메모리와 처리 부담이 늘어날 수 있습니다.
• 도구를 여러 번 호출하는 구조라면 모델 자체 속도 외의 대기 시간도 생깁니다.

즉, 제가 느낀 “빠름”은 실제 체감으로는 맞지만, 그 원인을 하나로 확정할 수는 없습니다. 가장 자연스러운 해석은 문맥 크기, 도구 오버헤드, 작업 방식 차이가 함께 작용했을 가능성이 크다는 정도입니다.

context는 무조건 크게 잡는 것이 좋을까요?

처음 로컬 AI를 쓰다 보면 context를 크게 잡아야 더 똑똑해진다고 생각하기 쉬운데요. 실제로는 무조건 그렇지 않았습니다.

여러 파일을 길게 읽어야 하는 작업에는 큰 context가 도움이 될 수 있습니다. 하지만 짧은 코드 설명이나 한 파일 수정까지 항상 64K처럼 길게 둘 필요는 없습니다. 특히 메모리가 넉넉하지 않은 Mac에서는 체감 속도와 안정성이 떨어질 수 있습니다.

작업 유형	처음 시도해볼 만한 범위	메모
짧은 질문·한 파일 설명	4K~8K	가볍게 시작하기 좋음
여러 파일 비교	8K~32K	작업 내용을 보며 조절
프로젝트 단위 Agent 작업	64K 이상 검토	Mac 메모리와 모델 크기를 먼저 확인

저처럼 18GB 메모리 Mac을 쓰는 경우라면, 처음부터 큰 모델과 긴 context를 같이 밀어붙이기보다 작은 작업으로 반응을 보면서 올리는 편이 더 실용적이었습니다.

로컬 AI라고 무조건 안전한 것은 아닙니다

Ollama는 기본적으로 로컬 주소에서 실행되기 때문에, 클라우드 모델보다 데이터 통제 측면에서 안심되는 부분이 있을 수 있습니다. 하지만 “로컬 모델을 선택했다”는 이유만으로 모든 것이 자동으로 안전해지는 것은 아닙니다.

• Continue에서 실제 provider가 Ollama인지 확인하세요.
• 원격 MCP, 클라우드 provider, 외부 API가 함께 연결돼 있지 않은지 확인하세요.
• .env, API 키, 쿠키, 비밀번호가 들어 있는 파일은 AI 문맥에 넣지 마세요.
• Ollama 서버를 외부에 공개하는 설정은 초보자에게 권하지 않습니다.
• Agent가 실행하려는 명령과 수정 diff는 매번 확인하세요.
• 가능하면 테스트 폴더나 복사본에서 먼저 실험하세요.

정리하면, 로컬 AI는 “아무 파일이나 맡겨도 안전한 AI”가 아니라, 내가 데이터 범위를 더 직접 관리할 수 있는 AI에 가깝습니다.

Continue Ollama 연결이 안 될 때 확인할 것

1) Continue에서 모델 목록이 안 나올 때

ollama list
curl http://localhost:11434

모델이 실제 설치되어 있는지, 그리고 Ollama 서버가 응답하는지 먼저 확인해 주세요. 그다음 Continue에서 Autodetect를 다시 해보면 됩니다.

2) 404 model not found 오류가 날 때

Continue 설정의 모델 이름과 ollama list의 이름이 다를 가능성이 큽니다. 철자뿐 아니라 태그까지 정확히 맞춰 주세요.

3) address already in use 오류가 날 때

이미 Ollama 서버가 실행 중일 수 있습니다. 이런 경우에는 서버를 무조건 다시 켜기보다, 현재 포트 사용 상태부터 확인해 보는 편이 좋습니다.

lsof -nP -iTCP:11434 -sTCP:LISTEN

4) Agent 모드가 잘 안 될 때

선택한 모델이 Chat은 되지만 도구 사용은 약할 수 있습니다. 처음에는 Chat이나 Edit부터 써보고, Agent는 나중에 따로 확인하는 편이 안전합니다.

5) 답변이 너무 느릴 때

• 더 작은 모델로 바꿔보기
• 다른 무거운 앱을 닫아보기
• ollama ps로 현재 상태 확인
• 처음부터 프로젝트 전체를 Agent에 맡기지 않기
• 짧은 작업에서는 context를 낮춰보기

특히 메모리가 넉넉하지 않은 Mac에서는 큰 모델이 항상 실사용에 더 좋다고 보기 어렵습니다. 오히려 작은 모델이 더 안정적이고 빠르게 체감될 수 있습니다.

제가 사용해 본 결론

Ollama 모델을 터미널에서만 사용하다가 Continue에 연결해 보니 활용 범위가 확실히 넓어졌습니다.

현재 파일을 열어둔 상태에서 코드 설명을 요청하거나, 작은 수정안을 받아보는 작업은 생각보다 편했습니다. 특히 qwen3.5:9b-mlx는 제 환경에서는 반응이 꽤 빠르게 느껴졌고요.

하지만 여기서 성급하게 결론 내리면 안 됩니다. Continue가 편한 것과, Agent가 내 프로젝트를 안전하게 잘 고쳐준다는 것은 전혀 다른 이야기입니다.

제가 다시 처음부터 설정한다면 아래 순서로 진행하겠습니다.

1. Ollama에서 작은 모델이 정상 실행되는지 먼저 확인합니다.
2. Continue에 모델을 연결합니다.
3. Chat으로 읽기 전용 질문부터 해봅니다.
4. 테스트 폴더에서 작은 Edit를 적용해 봅니다.
5. diff를 확인한 뒤에만 Agent 사용 범위를 넓힙니다.

정리하면, 초보자에게 중요한 것은 “최대한 강한 모델”보다 지금 내 Mac에서 안정적으로 확인 가능한 흐름을 만드는 것이었습니다.

AI가 빠르게 코드를 쓰게 하는 것보다, 어떤 파일을 읽고 무엇을 바꾸는지 내가 확인할 수 있는 구조가 먼저였습니다.

참고한 공식 자료

• Continue 공식 설치 문서
• Continue Ollama 연결 가이드
• Continue Agent 동작 방식 문서
• Ollama context 관련 문서
• Ollama FAQ

함께 보면 좋은 글

• Ollama 설치 후 첫 모델 고르는 법 | Mac 초보자를 위한 로컬 AI 입문
• ChatGPT 회원가입 로그인 방법 | 계정 만들기와 로그인 오류 확인
• Mac에서 Ollama가 느릴 때 확인할 7가지 (작성 예정)
• 로컬 AI가 만든 코드를 안전하게 검증하는 법 (작성 예정)

자주 묻는 질문