프로젝트를 만들 때 타 사이트의 DB를 크롤링했다면, 배포 후 프로젝트가 검색엔진에 노출될 경우 저작권 관련 문제가 발생할 수 있다. 따라서 프로젝트가 검색엔진에 노출되지 않도록 막아야 한다.
- NOINDEX란?
검색엔진 웹 크롤러는 페이지를 크롤링할 때 noindex 태그나 헤더를 발견하면 다른 사이트가 페이지에 연결되어 있는지와 관계없이 페이지 전체를 검색결과에서 제외한다.
<!-- 대부분의 검색엔진 웹 크롤러 차단 -->
<meta name="robots" content="noindex">
<!-- 구글 검색엔진 웹 크롤러만 차단 -->
<meta name="googlebot" content="noindex">
- 참고 사이트