Otter, Rev, Happy Scribe, Notta 및 Trint는 모두 오디오를 서버로 업로드합니다. 일부는 30일 이상 보관합니다. 기밀 클라이언트 통화, 의료 대화, 법률 작업, HR 회의 및 R&D 녹음의 경우 이는 문제가 됩니다. StarWhisper는 Windows PC에서 OpenAI Whisper를 로컬로 실행합니다. 오디오는 기기를 떠나지 않습니다.
대부분의 전사 도구가 오디오를 보내는 곳과 대안.
Otter, Rev, Happy Scribe, Notta, Trint, Sonix 및 거의 모든 다른 전사 서비스는 오디오를 서버에 업로드하고, 모델을 통해 실행하며, 최소 30일 동안 파일을 보관합니다. 일부는 더 오래 보관하거나 모델을 개선하는 데 사용합니다. 편리함은 분명합니다. 그 대가 또한 분명합니다.
민감하지 않은 콘텐츠의 경우 이는 괜찮습니다. NDA가 적용되는 통화, 의료 또는 법률 대화, HR 문제 또는 GDPR이나 HIPAA가 적용되는 모든 것의 경우, 사용하기도 전에 조달 관련 대화와 서류 작업이 필요합니다.
StarWhisper는 설치 프로그램과 함께 OpenAI Whisper 모델을 번들로 제공합니다. 전사할 때 모델이 컴퓨터의 메모리에 로드되고, CPU 또는 GPU를 사용하여 신경망을 통해 오디오를 실행하며, 텍스트를 생성합니다. 업로드도, 서버도, 소환할 로그도, 문의할 보존 기간도 없습니다.
네트워크 플러그를 뽑아도 전사는 여전히 작동합니다. 이는 정책 약속이 아닌 구조적인 프라이버시입니다.
"로컬 처리"가 실제로 제공하는 이점
로컬 모드에서는 오디오의 어떤 부분도 기기를 떠나지 않습니다. 이는 네트워크 모니터로 확인할 수 있습니다. 신뢰하기 전에 직접 확인할 수 있습니다.
인터넷 연결을 끊어도 전사는 여전히 작동합니다. 클라우드 도구는 동일한 조건에서 단순히 실패합니다. 오프라인 작동은 로컬 처리의 가장 명확한 증거입니다.
클라우드 서비스는 일반적으로 오디오를 30일 이상 보관합니다. 로컬 처리를 사용하면 업로드된 것이 없기 때문에 보존에 대한 질문이 없습니다. 오디오는 말하는 동안에만 존재합니다.
일부 클라우드 전사 서비스는 정리 또는 요약을 위해 오디오를 추가 AI 모델로 전달하여 접근 권한이 있는 당사자를 늘립니다. 로컬 처리는 데이터 경로를 하나의 기기로 유지합니다.
서버에 로그가 없으면 강제로 제출할 로그도 없습니다. 이는 법적 절차가 실제 고려 사항인 저널리스트, 변호사 및 소스 자료가 충분히 민감한 모든 사람에게 중요합니다.
Whisper는 오픈 소스입니다. 오늘날 처리하는 오디오는 공급업체 계정에 갇히지 않습니다. StarWhisper가 존재를 멈추더라도 기본 모델은 계속 작동합니다.
주요 전사 서비스의 개인정보 보호정책을 열어보면 비슷한 구조를 발견할 수 있습니다. 업로드하는 오디오는 서버에서 처리되고, 타사 AI 제공업체를 통해 전달될 수 있으며, 일정 기간(일반적으로 30일, 때로는 90일, 때로는 "삭제할 때까지") 동안 보관됩니다. 대부분의 정책은 또한 기본 모델을 개선하기 위해 익명화된 오디오 부분을 사용할 권리를 보유하며, 때로는 유료 등급 기능인 옵트아웃(opt-out)을 하지 않는 한 그렇게 합니다.
구체적으로 가장 큰 공급업체의 오디오 경로는 다음과 같습니다:
대부분의 사용 사례에서 이러한 절충안은 괜찮습니다. 클라우드가 무거운 컴퓨팅을 처리하고, 세련된 제품을 얻으며, 오디오는 전송 중에 암호화되고, 회사는 SOC 2를 보유하고 있습니다. 일부 사용 사례의 경우 오디오가 여전히 신뢰할 수 있는 환경을 떠나고, 신뢰할 수 있는 환경만이 실제로 보안을 제어할 수 있는 유일한 환경이기 때문에 어떤 정책도 충분하지 않습니다.
"로컬"은 마케팅에서 느슨하게 사용됩니다. 다음은 특히 StarWhisper에서 의미하는 바입니다.
OpenAI Whisper 모델 파일은 설치 프로그램과 함께 번들로 제공됩니다. Windows 드라이브의 StarWhisper 설치 디렉터리에 있습니다. 볼 수 있고, 체크섬할 수 있으며, 다른 컴퓨터로 복사할 수 있습니다. 런타임에 인터넷에서 로드되지 않습니다. 앱을 설치한 후에는 받아쓰기에 네트워크 연결이 필요하지 않습니다.
받아쓰기 단축키를 누르면 마이크 오디오가 메모리 버퍼에 캡처되고, 로드된 Whisper 모델로 전달되며, 모델은 컴퓨터의 컴퓨팅을 사용하여 텍스트를 생성합니다. 네트워크를 통해 전송되는 데이터가 없습니다. 컴퓨터에 NVIDIA GPU가 있는 경우 추론은 CUDA 코어에서 실행되며 더 빠릅니다. 그렇지 않은 경우 CPU 경로도 작동하지만 더 느립니다.
이것이 로컬 전사와 클라우드 전사를 구분하는 가장 명확한 기준입니다. 클라우드 제품은 API에 대한 HTTPS 요청을 수행합니다. 로컬 제품은 그렇지 않습니다. 받아쓰는 동안 네트워크 모니터를 실행하여 이를 확인할 수 있습니다. 결과는 앱이 인터넷 권한이 전혀 없는 것과 같습니다.
앱은 두 가지, 즉 새 버전 확인(StarWhisper의 엄격한 자동 업데이트 금지 정책에 따라 버튼을 클릭할 때만) 및 유료 등급인 경우 라이선스 확인을 위해 네트워크와 통신합니다. 이 두 가지 모두 오디오를 건드리지 않습니다. 둘 다 별도로 검사할 수 있습니다. 에어갭된 컴퓨터에서 StarWhisper를 사용하려는 경우 무료 등급은 라이선스 확인이 전혀 필요하지 않습니다.
임상의와 환자 간의 HIPAA 적용 대화는 해당 서비스가 서명된 BAA를 보유하고 있고 사용 사례가 규정 준수 부서에서 검토되지 않는 한 클라우드 전사 서비스에 업로드되어서는 안 됩니다. 많은 SaaS 전사 제품이 BAA를 제공하지만 엔터프라이즈 등급에서만 제공됩니다. 로컬 처리는 데이터가 타사로 교차되지 않기 때문에 질문 자체를 피합니다. BAA가 필요하지 않습니다. 이에 대해서는 치료사를 위한 음성을 텍스트로 변환 및 예정된 HIPAA 받아쓰기 참조 페이지에서 자세히 다룹니다.
특권 콘텐츠를 클라우드 전사 도구에 초안으로 작성하는 것은 관할권에 따라 명백히 문제가 되거나 대부분의 법적 윤리 의견에서 피하도록 권고하는 회색 지대입니다. 이유는 특권 통신을 타사 서버에 저장하면 일부 변호사 협회 해석에 따라 특권이 포기될 수 있기 때문입니다. 로컬 처리는 콘텐츠를 변호사의 컴퓨터에 보관하며, 이는 50년 동안 받아쓰기 도구에 적용되었던 것과 동일한 기준입니다.
성과 검토, 해고 대화, 불만 조사 및 보상 논의는 타사의 전사 데이터베이스에 나타나서는 안 되는 콘텐츠의 정확한 유형입니다. SaaS 공급업체의 태도가 훌륭하더라도 표면적은 불필요합니다. 로컬 전사는 질문을 제거합니다.
소스가 배경 설명으로 대화하기로 동의한 경우 "오디오는 클라우드에 있으며 30일 후에 삭제됩니다"라는 말은 "오디오는 내 노트북을 떠난 적이 없다"는 말과 다른 이야기입니다. 평판이 좋은 저널리스트는 가능할 때 두 번째 이야기를 기본으로 합니다. 로컬 전사는 그 기본값을 지원합니다.
고용주의 데이터 정책에 "보안 검토 없이 타사 SaaS에 고객 데이터 불가"라고 명시되어 있는 경우, 동일한 정책은 거의 확실하게 해당 데이터에 대한 내부 대화의 음성 녹음에도 적용됩니다. 로컬 처리는 대화를 신뢰할 수 있는 환경 내에 유지합니다.
SBU, CUI 또는 분류된 취급에 접근하는 모든 작업의 경우 클라우드 SaaS는 일반적으로 선택 사항에서 제외됩니다. 로컬 처리는 위협 모델에 맞는 유일한 옵션입니다.
| 속성 | 클라우드 전사 | StarWhisper 로컬 모드 |
|---|---|---|
| 오디오가 기기를 떠남 | 예 | 아니요 |
| 보존 기간 | 일반적으로 30일, 가변적 | 없음 (저장되지 않음) |
| 타사 LLM 처리 | 때때로 | 아니요 |
| 오프라인 작동 | 아니요 | 예 |
| 소환 가능한 서버 로그 | 예 | 아니요 |
| HIPAA용 BAA 필요 | 예 | 해당 없음 |
| 공급업체 모델 교육에 사용 | 때때로 (옵트아웃 다양) | 절대 없음 |
| 에어갭 뒤에서 작동 | 아니요 | 예 |
| 네트워크 캡처로 확인 가능 | 전송 중인 오디오 표시 | 아웃바운드 0건 |
"로컬"이 "비공개"보다 중요한 이유는 로컬이 확인 가능하기 때문입니다. 정책 설명을 신뢰할 필요가 없습니다. 속성을 직접 확인할 수 있습니다.
Windows에 네트워크 모니터를 설치합니다. GlassWire가 가장 쉬운 GUI 옵션입니다. Wireshark가 포괄적인 옵션입니다. 빠른 확인에는 기본 제공 리소스 모니터(성능 모니터 -> 네트워크)면 충분합니다. 로컬 모드에서 받아쓰기를 시작하고 StarWhisper 프로세스를 관찰하십시오. 받아쓰기 자체 중에 전사 엔드포인트로 향하는 아웃바운드 바이트가 0임을 확인해야 합니다. 앱과 관련된 유일한 아웃바운드 트래픽은 라이선스 확인이나 사용자가 시작한 업데이트 확인과 같은 관련 없는 제어 평면 항목이어야 합니다.
네트워크에서 완전히 연결을 끊습니다. Wi-Fi를 비활성화하고, 이더넷 케이블을 뽑고, 비행기 모드를 켭니다. StarWhisper를 열고 받아쓰기를 하십시오. 여전히 작동합니다. 위조할 수 없기 때문에 이것이 가장 깨끗한 증거입니다. 클라우드 전사 도구는 오디오를 보낼 곳이 없기 때문에 에어갭 조건에서 단순히 오류가 발생합니다.
StarWhisper 설치 폴더를 엽니다. Whisper 모델 파일(백엔드에 따라 GGML 또는 GGUF 형식)이 표시됩니다. 이들은 대용량 바이너리 파일입니다(모델 크기에 따라 수백 MB에서 몇 GB). 디스크에 존재하기 때문에 로컬 처리가 가능합니다. 그것들이 모델입니다. 그것들이 전체 파이프라인입니다. 전사에 관한 한 그 파일들이 있는 폴더를 떠날 필요가 없습니다.
앱이 폐기하기 전에 오디오를 디스크에 버퍼링하지 않는지 확인할 수 없습니다. (그렇지 않지만 코드 수준의 주장입니다.) Microsoft Windows 자체가 독립적으로 마이크 오디오를 캡처하지 않는지 확인할 수 없습니다. 이는 별도의 문제입니다. OS 계층의 경우 표준 Windows 강화 가이드가 적용됩니다.
많은 사용자에게 클라우드 전사는 진정으로 올바른 도구입니다. 화자 레이블이 있는 다중 화자 회의 전사는 단일 마이크 로컬 도구보다 Otter 또는 Fireflies에서 훨씬 낫습니다. 클라우드가 저장소 계층이기 때문에 교차 기기 동기화가 작동합니다. 전용 GPU 서버에서 자동 AI 요약이 노트북보다 더 빨리 실행됩니다. 고객 지원 및 통합은 소규모 Windows 앱보다 벤처 지원을 받는 제품에서 더 강력합니다.
콘텐츠가 특별히 민감하지 않고 여러 기기에서 작업하며 세련된 AI 요약 및 공유 워크플로를 원한다면 클라우드 도구가 더 나은 대답일 것입니다. StarWhisper는 특별히 오디오 경로가 중요하고 채택의 장벽이 해당 경로를 신뢰할 수 있는지 여부인 사용자를 위한 대답입니다.
StarWhisper는 오디오를 OpenAI Whisper API로 보내는 선택적 클라우드 모드와 함께 제공됩니다. 이는 저사양 컴퓨터에서 더 빠른 전사를 원하고 클라우드 처리에 프라이버시 우려가 없는 일부 사용자를 위해 존재합니다. 클라우드 모드는 다음과 같습니다:
StarWhisper를 고려하는 이유가 프라이버시라면 클라우드 모드를 끄십시오. 전체 로컬 모드 환경에는 클라우드 모드가 필요하지 않습니다. 더 깊은 로컬 대 클라우드 참조는 Whisper 로컬 대 클라우드 FAQ 페이지에 있습니다.
StarWhisper는 무료로 다운로드할 수 있습니다. 무료 플랜은 하루에 500단어를 제공하며, 이는 대부분의 사용자가 결정하기 전에 일주일이나 이틀 정도 실제 콘텐츠로 워크플로를 평가하기에 충분합니다. Pro는 월 $10 또는 연 $80이며 일일 제한이 제거됩니다. 좌석당 가격, 등급 업셀, 일일 단어 수를 넘어선 사용량 미터가 없습니다. 자세한 내용은 홈페이지의 가격 섹션에 있습니다.
시스템 요구 사항은 Windows 10 또는 11입니다. 로컬 Whisper 경로에는 최신 CPU가 작동합니다. NVIDIA GPU는 속도를 높이지만 필수는 아닙니다. 설치 프로그램은 번들 모델을 포함하여 수백 메가바이트입니다. 설치되면 전사에 네트워크 연결이 필요하지 않습니다. 오프라인 동작에 대한 자세한 내용은 전용 프라이버시 및 오프라인 기능 페이지에서 아키텍처 세부 정보를 확인하십시오.