걍생

내가 만든 서버를 띄우거나, 다른 서버와 통신하거나, 사내 개발 서버에 붙어서 작업하거나 등ssh는 IT 업계 종사자면 절대 모르면 안 되는 개념 중 하나이다. 대학생 시절 과 서버에 접속해 과제 할 때 처음으로 ssh를 접했는데, 당시에는 머신의 cmd를 쓰지 않고 putty로 접속했었다.(그때만 해도 putty가 없으면 서버에 접속 못 하는 줄 알았음 ;;) 회사에 들어와 여러 업무를 하다 보니 단순히 서버에 접속하는 것뿐만 아니라포트 포워딩 (virtualbox 게시글에서 살짝 언급하긴 했지만)이나 ssh tunneling 같은 작업이 필요하게 되었고,꽤나 빈번하게 필요하게 되었는데 헷갈려서 이참에 잘 정리해 두기로 했다. 먼저 SSH란, Secure Shell의 줄임말로 원격 호스트에 접속하기 ..

요즈음 huggingface에는 모델이 대개 *.safetensor로 업로드되어 있지만 예전에는 *.bin이나 *.pt 파일을 종종 볼 수 있었다.*.pt랑 *.bin은 pytorch 모델을 학습시키는 과정에서 `torch.save()` 명령어를 사용해 저장한 결과 파일이다.이렇게 바뀐 이유는 성능, 안정성, 최적화 등등 여러 이유 때문이지만......현재 맡고 있는 업무에서 python이 아닌 다른 프로그래밍 언어 (e.g. C++, java 등) 에서도 로드할 수 있도록 변환할 일이 종종 있는데, 이때 어떤 모델은 되고 어떤 모델은 안 되는 경우가 꽤 많았다. (torch.jit.trace를 썼을 때 torchscript를 쓰라고 에러가 난다거나)모델을 저장하거나 배포하거나, 혹은 실행 속도를 높이기..