EMR jupyterhub 운영시 livy session 관리방안
2021-04-17
.
Data_Engineering_TIL(20210417)
[학습내용]
- EMR 운영시 문제가 발생하는 상황
다수의 사용자가 jupyterhub에 접속해서 notebook을 열고 작업할 경우 불필요한 livy session이 누적되어 livy session을 더이상 추가해서 사용할 수 없는 경우가 발생함
- 해결방안
정기적으로 오래된 휴무중인 livy session을 kill 해줘야함.
** 아래 URL을 참고할것
https://github.com/minman2115/Data_engineering_studynotes_2021/blob/master/EMR%20jupyterhub%20%EC%9A%B4%EC%98%81%EC%8B%9C%20livy%20session%20%EA%B4%80%EB%A6%AC%EB%B0%A9%EC%95%88/example_file.zip