날짜별 글 목록: 2014년 6월 24일

유용한 리눅스 커맨드 라인 트릭

참조 원문 : 20 interesting and extremely helpful Linux command line tricks

1. 두 디렉토리 사이를 효율적으로 반복해서 이동하는 방법
  A 디렉토리에서 B 디렉토리로 이동한 후 다시 A 디렉토리로 이동할 때 A 디렉토리의 경로를 쓰는 대신 ‘cd -‘를 사용하여 같은 효과를 볼 수 있습니다.

/home$ cd /var/log
/var/log$ cd –
/home
/home$


2. 콤마(,) 연산자
  첫 번째 글자나 문자열 전체를 소문자로 변환 방법

$ string=”Example of comma OPERATOR”

$ echo ${string,}
example of comma OPERATOR

$ echo ${string,,}
example of comma operator

  파일명 확장(extension)에 사용

$ touch new_file{1,2,3}
$ ls new_file*
new_file1  new_file2  new_file3

파일명을 my_filename.old에서 my_filename.new로 변경
$ mv my_filename.{old,new}


3. 파일명에 공백이 있을 때 제어하는 방법
  파일명 전체를 큰 따옴표로 감싸거나 공백 앞에 역슬래쉬(\)를 넣습니다.

$ rm “temp File”
$ rm temp\ File


4. 하이픈(-)으로 시작하는 파일명 삭제 또는 생성 방법

$ rm -1mpFile.out
rm: invalid option — ‘1’
Try `rm ./-1mpFile.out’ to remove the file `-1mpFile.out’.
Try `rm –help’ for more information.

$ rm — -1mpFile.out
$ touch — -1mpFile.out


5. 디렉토리 안에 있는 파일 중 특정 확장자가 아닌 모든 파일 삭제 방법

$ rm !(*.c|*.py)


6. touch와 find를 이용해 특정 시간 사이에 생성되거나 수정된 파일 복사
  어떤 디렉토리 안에 있고 09~17시 사이에 생성되거나 수정된 파일만 골라 복사하고 싶다고 가정했을 때 먼저 원하는 두 시간에 맞춰 타임스탬프 값을 가진 두 파일을 생성합니다.

$ touch -d “9am” temp1
$ touch -d “5pm” temp2

  이제 대상 파일이 있는 디렉토리로 이동해서 아래 명령어를 사용합니다.(또는 find에서 대상 디렉토리를 지정)

$ find . -newer ../temp1 ! -newer ../temp2 -exec cp ‘{}’ ./target/ ‘;’

  실행하면 대상 파일이 target이라는 하위 디렉토리 안에 복사됩니다. 물론 target 디렉토리를 먼저 만들어야 합니다.

7. 대상 파일이 너무 많아서 삭제가 안 될 때
  디렉토리 안에 파일이 너무 많을 때 삭제를 시도하면 아래의 에러 메시지와 함께 삭제가 안 될 수 있습니다.

-bash: /bin/rm: Argument list too long

  이럴 땐 아래의 방법을 사용합니다. 사용하기 전에 현재 디렉토리를 다시 한 번 확인하는 것이 좋습니다.

find * -xdev -exec rm -f ‘{}’ ‘;’


8. 특정 문자열을 포함한 파일 찾는 방법

$ grep -l “printf” *.c

  하위 디렉토리에 있는 파일들까지 포함하여 문자열이 포함된 파일과 그 문자열이 있는 줄을 보고 싶다면 find, xargs, grep 명령어를 활용합니다.

$ find . -name “*.c” | xargs grep -H “buff”
./bfrovrflw.c:    char buff[15];
./bfrovrflw.c:    gets(buff);
./bfrovrflw.c:    if(strcmp(buff, “MyLinuxBook”))


9. 파일 안의 내용을 모두 지우는 방법

$ > ./logfile


10. man 페이지에서 특정 문자열 검색 방법

$ man -k login
access.conf (5)      – the login access control table file
add-shell (8)        – add shells to the list of valid login shells
chsh (1)             – change login shell
faillog (5)          – login failure logging file
faillog (8)          – display faillog records or set login failure limits
getlogin (3)         – get username
getlogin_r (3)       – get username
gnome-session-properties (1) – Configure applications to start on login
hotot (7)            – lightweight & opensource microbloging client
issue (5)            – prelogin message and identification file
lastlog (8)          – reports the most recent login of all users or of a given user
login (1)            – begin session on the system
login (3)            – write utmp and wtmp entries
login.defs (5)       – shadow password suite configuration
login_tty (3)        – tty utility functions
logname (1)          – print user’s login name



11. 표준 에러 출력 메시지를 파일로 리다이렉트시키는 방법
  일반 리다이렉트로는 표준 에러로 출력되는 메시지를 담을 수 없습니다.

$ touch new > /home/himanshu/practice/logfile 
touch: cannot touch `new’: Permission denied
$ cat /home/himanshu/practice/logfile 
$
$ touch new > /home/himanshu/practice/logfile 2>&1
$ cat /home/himanshu/practice/logfile 
touch: cannot touch `new’: Permission denied

  2>&1은 표준 에러도 표준 출력으로 보내라는 뜻입니다.

12. history에 남기지 않고 명령어 사용
  앞에 공백을 넣고 명령어를 사용합니다.

$ a
a: command not found
$  vi
$ b
b: command not found
$ history | tail -3
 1055  a
 1056  b
 1057  history | tail -3


13. 영화처럼 같은 속도로 텍스트 출력

$ echo “You can simulate on-screen typing just like in the movies” | pv -qL 10


14. alias와 같은 이름을 가진 명령어가 있을 때 alias가 아닌 그 명령어 실행
  앞에 역슬래쉬(\)를 넣고 명령어를 사용합니다.

mirashi@mirashi-virtual-machine:~/test$ alias ls=’ls -al’

mirashi@mirashi-virtual-machine:~/test$ ls
합계 8
drwxrwxr-x  2 mirashi mirashi 4096  7월 17 14:33 .
drwxr-xr-x 34 mirashi mirashi 4096  7월 17 14:33 ..
-rw-rw-r–  1 mirashi mirashi    0  7월 17 14:33 test

mirashi@mirashi-virtual-machine:~/test$ \ls
test


15. 특정 파일을 사용하고 있는 프로세스 찾아내기
  파일을 지우려고 하는데 어떤 프로세스가 그 파일을 사용 중이라 지울 수 없을 때가 있습니다. 이럴 땐 fuser 명령어로 그 파일을 사용하고 있는 프로세스들의 PID를 알아낼 수 있습니다.

# fuser /var/log/httpd/access_log
/var/log/httpd/access_log: 24273 24277 24278 24279 24280 24281 24282 24283 24284 24305 24306 24307 34994 35370 35371 35372 35373 35374 35375 35376

  또한 -k 옵션을 사용하면 해당 프로세스들을 죽일 수 있습니다.

16. 복사와 붙여넣기 단축키
  먼저 복사하고 싶은 부분을 마우스로 드래그해서 선택한 후 Ctrl+Shift+C를 누르면 복사가 되고 Ctrl+Shift+V를 누르면 붙여넣기가 됩니다.

awk에서 변수 사용

참조 원문 : Using Variables With awk
관련 글 : awk 기초, awk를 이용한 검색, 6가지 awk 트릭

  awk는 내장된 변수와 유저 정의 변수를 지원하며 bash 스크립트 같은 것과 달리 사용하기 전에 미리 선언할 필요가 없습니다. 변수의 종류로는 다음의 3가지가 있습니다.

  1. 시스템 변수(=내장 변수)
  2. 일반(Scalar) 변수
  3. 배열 변수


1. 시스템 변수
  시스템 변수는 대문자로 되어 있으므로 대소문자를 주의하여 사용해야 합니다.

NR: 줄 번호(number of input lines)
  NR 변수는 매 레코드를 읽을 때마다 값이 1씩 증가하는 변수입니다.

$ awk ‘{print NR}’ processes 
1
2
3
…생략…
72
73
74


NF: 필드 번호(number of fields)
  각 레코드에는 공백 문자로 구분되는 필드들이 있습니다. 필드의 개수는 레코드에 따라 다를 수 있습니다.

$ awk ‘{print NF}’ processes 
11
12

아래는 각 레코드마다 1,2번째 필드의 내용과 총 필드의 개수를 출력하는 예입니다.

$ awk ‘{print $1,$2,NF}’ /var/log/messages.1 
Jul 24 14
Jul 24 11
Jul 24 8
Jul 24 12


FILENAME: 입력 파일 이름(name of input file)
  현재 처리 중인 파일의 이름이 담겨 있습니다. 이 변수는 BODY 섹션 이전에는 선언되지 않기 때문에 BEGIN 섹션에서는 사용할 수 없습니다.

FNR: 입력 파일들 중 현재 사용 중인 파일(used with multiple input files)
  NR과 마찬가지로 줄(레코드)번호를 뜻하지만 NR이 모든 입력 스트림을 통틀어 계산한 줄번호를 출력하는 것과 달리 FNR은 현재 처리 중인 파일 내의 줄번호를 출력합니다.

FS: 필드 구분 문자(field separator character)
  기본적으로 필드는 공백이나 탭으로 구분하지만 “-F” 옵션 뒤에 문자를 적어 해당 문자를 필드 구분 문자로 사용할 수 있습니다. 아래는 ‘:’ 문자로 필드를 구분하는 /etc/passwd 파일에서 ‘jane’이라는 문자열을 찾아 첫 번째 필드와 네 번째 필드를 출력하는 예입니다.

$ tail /etc/passwd | awk -F: ‘/jane/{print $1, “Group: “$4}’
jane Group: 502

구분 문자를 여러 개 사용하고 싶다면 정규식을 사용하여 목적을 달성할 수 있습니다. 아래는 공백, 콜론, 탭을 구분 문자로 사용한 모습입니다. 참고로 이스케이프 문자가 하나 있으므로(\t) 싱글 쿼트가 필요합니다.

$ tail /etc/passwd | awk -F'[ :\t]’ ‘/jane/{print $1, “Group: “$4}’


OFS: 출력용 필드 구분 문자(output field separator)
  출력에 사용하는 필드 구분 문자는 기본적으로 공백입니다. 아래처럼 각 필드 사이에 콤마를 사용하면 출력용 필드 구분 문자인 공백이 출력됩니다.

$ tail /etc/passwd | awk -F'[ :\t]’ ‘/jane/{print $1,$2,$3,$4,$6,$7}’
jane x 502 502 /home/jane /bin/bash

만약 콤마를 쓰지 않는다면 아래처럼 더덕더덕 붙여서 나옵니다.

$ tail /etc/passwd | awk -F'[ :\t]’ ‘/jane/{print $1$2$3$4$6$7}’
janex502502/home/jane/bin/bash


ORS: 출력용 레코드 구분 문자(output record separator)
  각 줄은 하나의 레코드로 취급하며 각 줄의 끝마다 레코드가 끝나는 것으로 취급합니다. 레코드 구분 문자(줄 구분 문자)는 줄 바꿈(new line)을 기본으로 사용합니다.

OFMT: 숫자 출력을 위한 서식(format for numeric output)
  이 변수를 통해 숫자의 서식을 제어할 수 있습니다. 기본 서식은 “%.6g”로 소수점 이하 6자리 수까지 표시합니다.

RS: 레코드 구분 문자(record separator)
  기본적으로 레코드 구분 문자는 줄 바꿈(new line)이다.

$0 변수
  파일 전체를 의미합니다.

$ awk ‘{print $0}’ processes 
USER       PID %CPU %MEM    VSZ RSS TTY STAT START TIME COMMAND
root         1  0.0  0.1  10348 720 ?   Ss   22:01 0:01 init [3]
root         2  0.0  0.0      0   0 ?   S<   22:01 0:00 [migration/0]
root         3  0.0  0.0      0   0 ?   SN   22:01 0:00 [ksoftirqd/0]
root         4  0.0  0.0      0   0 ?   S<   22:01 0:00 [watchdog/0]


2. 일반 변수
  숫자나 문자를 담는 변수입니다.

var=3 또는 var=”test_string”


3. 배열 변수
  변수의 이름과 함께 숫자가 있는 대괄호의 조합으로 사용합니다.

variable_name[0]
variable_name[1]

awk를 이용한 검색

참조 원문 : How To Search Using The Awk Utility
관련 글 : awk 기초, awk에서 변수 사용, 6가지 awk 트릭

  사실 검색만 놓고 따져보면 awk는 grep과 비교해 그리 큰 메리트가 없습니다만 awk의 본래 목적은 검색이 아니라 검색한 내용의 일부를 추출하는 것이기 때문에 awk를 사용하려면 검색 방법을 알아야 할 필요가 있습니다. 아래는 awk의 기본 문법입니다.

awk <search pattern> {<program actions>}

  awk로 검색을 할 때는 아래처럼 두 슬래시(/) 사이에 검색할 문자열을 넣습니다. 참고로 문자열에서 대소문자를 구분합니다.

/Debian/

  아래의 두 명령어는 같은 결과를 출력하는데 그 이유는 검색의 기본 기능은 화면에 대한 출력이기 때문입니다.

awk ‘/Debian/’
awk ‘/Debian/’ {print}

  만약 “debian”과 “Debian”을 모두 검색하고 싶다면 아래처럼 정규식을 사용할 수 있습니다.

/[Dd]ebian/

  줄의 시작 부분을 검색하려면 “^” 문자를, 끝 부분을 검색하려면 “$” 문자를 사용합니다.

/^Debian/
/Debian$/

  아래는 d부터 m까지 소문자를 검색하는 경우입니다.

/[d-m]/

  다음 숫자를 검색하는 경우입니다.

/[0-9]/

  두 문자열 중 하나라도 일치하는 것이 있는 줄을 검색할 때는 파이파(|) 문자를 두 문자열 사이에 넣습니다. 그리고 이렇게 파이프(|)처럼 쉘이 해석하는 문자가 포함된 경우에는 쉘이 문자열을 맘대로 해석하지 않고 awk에게 온전히 넘겨주게 하기 위해 싱글 쿼트(‘)를 사용합니다. 사실 아래의 문자열에는 달러($), 백 쿼트(`), 이스케이프(\ 로 시작) 문자가 없기 때문에 더블 쿼트(“)를 써도 같은 결과를 얻을 수 있지만 습관을 위해 awk에서는 싱글 쿼트를 쓰는 것이 좋다고 할 수 있겠습니다. 왜 싱글 쿼트(또는 아래의 경우 더블 쿼트도 포함)를 써야 하는지에 대한 자세한 정보는 이 포스트를 참고하시기 바랍니다.

awk ‘/Iceweasel|Epiphany/’ access_log

  파일의 첫 번째 필드를 검색하려면 “$1″로 첫 번째 필드를 검색할 것임을 지정하고 “~” 문자로 해당 필드에서 문자열을 검색할 것임을 알립니다.

awk ‘$1 ~ /^192.168.5.103$/’ access_log

  반대로 위의 상황에서 특정 문자열을 검색 결과에서 제외하려면 아래처럼 느낌표(!) 문자를 사용합니다.

awk ‘$1 !~ /^192.168.5.103$/’ access_log

  아래는 ‘Debian’이라는 문자열이 있는 줄을 검색한 후 각 줄의 1번째와 20번째 필드를 출력하는 방법입니다.

awk ‘/Debian/’ access_log | awk ‘{print $1,$20}’

  아래는 연속된 여러 줄을 출력하는 방법입니다.

awk ‘NR == 10,NR == 15’ access_log

  그리고 아래는 사용할 수 있는 연산자입니다.

<           미만
<=          이하
==          일치
!=          불일치
>=          이상
>           초과

  또한 AND 연산을 위한 &&와 OR 연산을 위한 ||도 사용이 가능합니다. 아래는 이를 이용하여 10번째 이상의 줄에서 첫 번째 필드가 두 IP 중 하나인 줄을 찾는 내용입니다.

awk ‘((NR >= 10) && ($1 == “192.168.5.103″)) || ($1 ==”192.168.5.104″)’ access_log

  문자열 안에 넣을 수 있는 이스케이프 문자들은 아래와 같습니다.

\n     줄 바꿈 (라인 피드)
\t     수평 탭
\b     백스페이스
\r     캐리지 리턴
\f     폼 피드

awk 기초

참조 원문 : Introduction to awk
관련 글 : awk를 이용한 검색, awk에서 변수 사용, 6가지 awk 트릭

  awk는 패턴을 찾아 그와 관련된 문자열을 처리하는 유틸리티로 텍스트 파일에서 정보를 찾아 필요한 형식으로 재생성, 파일의 서식 변경, 데이터베이스 생성과 데이터를 이용한 수학 계산에 사용합니다. awk라는 이름은 프로그램 제작자들의 이름인 Aho, Weinberger, Kernighan의 앞글자들을 따서 만든 겁니다. 그 외에 awk의 최신 버전에 해당하는 nawk라는 것이 있고 GNU 버전인 gawk라는 것도 있습니다. 리눅스의 경우 awk 명령어가 심볼릭 링크를 통해 gawk를 가리키고 있는 경우가 많습니다. 참고로 우분투의 경우 awk가 심볼릭 링크를 통해 mawk(mike’s awk)라는 프로그램으로 링크되어 있는데 사실상 둘이 다를 게 거의 없기 때문에 신경쓰지 않아도 됩니다.

  awk는 표준 입력(=stdin, 키보드로부터 받은 입력), 파일, 다른 프로세스의 출력으로부터 데이터를 받습니다. 데이터를 받으면 입력한 패턴과 일치하는 줄을 찾습니다.


awk 사용

awk [ -F<char> ] {pgm} | { -f <pgm_file> } [ <vars> ] [ – | <data_file> ]

  • char: 필드 구분 문자
  • pgm: 실행할 명령어
  • vars: 변수
  • data file: 입력 데이터 파일

  기본적으론 공백이나 탭이 필드 구분 문자로 사용되지만 -F 옵션을 사용하면 다른 문자를 필드 구분 문자로 사용할 수 있습니다. 예를 들어 필드가 콜론(:)으로 나눠져 있을 경우 아래와 같이 사용합니다.

awk -F:


파일 내용을 입력
  아래는 awk를 이용하여 특정 파일에서 지정한 패턴을 찾는 문법과 실제 사용 예로 ps 명령어의 출력 결과를 텍스트 파일로 만든 후 awk를 이용해 “apache”라는 문자열이 있는 줄을 검색하는 것을 보여주고 있습니다.

문법: awk ‘pattern’ filename

$ ps aux > processes 
$ awk ‘/apache/’ processes 
apache    2206  0.0  1.0 207376  3972 ?   S   22:20   0:00 /usr/sbin/httpd
apache    2207  0.0  1.0 207376  3972 ?   S   22:20   0:00 /usr/sbin/httpd
…생략…

  아래는 패턴 대신 액션을 사용한 예입니다. 출력 결과가 위와 다른데 그 이유는 “$1″을 사용하여 모든 줄의 첫 번째 필드를 출력하게 했기 때문입니다. 필드 구분 문자를 따로 지정하지 않았기 때문에 공백을 필드 구분 문자로 사용합니다.

문법: awk ‘action’ filename

$ ps aux > processes 
$ awk ‘{print $1}’ processes
root
root
…생략…

  아래는 패턴과 액션을 섞어서 처음 결과에서 첫 번째 필드만 뽑아내는 문법과 예입니다.

문법: awk ‘pattern {action}’ filename

awk ‘/apache/{print $1}’ processes
apache
apache
apache

배시에 관한 몇 가지 팁

참조 원문 : 8 More Bash Tips for Working Faster With the Shell

  날이면 날마다 오는 배시 관련 포스팅입니다.

앨리어스 등록
  일반적으로 앨리어스를 등록할 때는 ~./bashrc 파일에 아래와 같은 형식으로 원하는 내용을 집어넣습니다.

alias name=’command’

  그냥 이렇게 평범하게 등록하고 쓰는 방법도 있지만 앨리어스 전용 파일을 별도로 만들고 그 파일을 읽는다면 관리가 더 깔끔하겠죠? 이를 위해 .bash_aliases 파일을 만들어 앨리어스들을 넣은 후 ~./bashrc 파일에서 아래와 같이 파일을 읽어들입니다.

if [ -f ~/.bash_aliases ]; then
    . ~/.bash_aliases
fi


히스토리를 탐색할 때 페이지 업/다운 키 사용
  ~/.inputrc라는 파일을 만들고 아래의 두 줄을 집어넣으면 PageUp 키와 PageDown 키로 히스토리를 탐색할 수 있습니다. 파일을 만든 후 다시 로그인을 해야 적용됩니다.

“\e[5~”: history-search-backward
“\e[6~”: history-search-forward


이맥스 스타일의 단축키들
  화살표까지 손을 옮기기 귀찮을 때 사용하면 편합니다.

  • ^A – go to the start of line
  • ^E – go to the end of line
  • ^H – erase one character to the left
  • ^D – erase one character to the right, it also exits the shell by default if there is no character to delete
  • ^U – erase everything from the cursor to start
  • ^K – erase everything from the cursor to end
  • ^P – bring the previous command in history
  • ^N – bring the next command in history
  • ^C – interrupt character, sends SIGTERM to the current application


매뉴얼 페이지에 색깔 적용
  아래의 내용을 ~./bashrc 파일에 넣습니다.

export LESS_TERMCAP_mb=$’\E[01;31m’ # begin blinking
export LESS_TERMCAP_md=$’\E[01;38;5;74m’ # begin bold
export LESS_TERMCAP_me=$’\E[0m’ # end mode
export LESS_TERMCAP_se=$’\E[0m’ # end standout-mode
export LESS_TERMCAP_so=$’\E[38;5;246m’ # begin standout-mode – info box
export LESS_TERMCAP_ue=$’\E[0m’ # end underline
export LESS_TERMCAP_us=$’\E[04;38;5;146m’ # begin underline

  그리고 .bashrc 파일을 다시 읽어들입니다.

. ~/.bashrc

 


파일 이름의 뒷부분에 원하는 문자열 추가
  만약 ‘filename‘이란 이름의 파일이 있을 때 이 파일을 백업 파일로 만들 때는 ‘filename.backup‘ 같은 식으로 이름을 바꾸기 마련입니다. 이때 보통 아래와 같은 방법으로 이름을 바꿉니다.

mv filename filename.backup

  이때 아래의 형식으로 명령을 내리면 같은 효과를 볼 수 있습니다.

mv filename{,.backup}

 

배시 파라미터를 대입(Substitution)하는 방법들

참조 원문 : HowTo: Use Bash Parameter Substitution Like A Pro

달러($) 문자는 파라미터 확장과 명령어 대입에 사용됩니다. 이걸 이용하면 sed나 awk 같은 외부 명령어 없이 필요에 따라 변수를 조작하거나 확장할 수 있습니다.
 

문자열 조작과 확장 변수

  • ${parameter:-defaultValue} : 디폴트 쉘 변수 값을 사용
  • ${parameter:=defaultValue} : 디폴트 쉘 변수 값을 설정
  • ${parameter:?”Error Message”} : 파라미터가 설정되어 있지 않았을 경우 에러 메시지 출력
  • ${#var} : 문자열의 길이 계산
  • ${var%pattern} : 오른쪽에서 패턴과 일치하는 부분 제거
  • ${var%%pattern} : 패턴과 일치하는 부분들 중 가장 왼쪽 부분부터 끝까지 제거
  • ${var:num1:num2} : 문자열 추출
  • ${var#pattern} : 왼쪽에서 패턴과 일치하는 부분 제거
  • ${var##pattern} : 패턴과 일치하는 부분들 중 가장 오른쪽 부분부터 처음까지 제거
  • ${var/pattern/string} : 검색 및 치환(1개)
  • ${var//pattern/string} : 검색 및 치환(모두)

6가지 awk 트릭

참조 원문 : 6 Tricks with awk
관련 글 : awk 기초, awk를 이용한 검색, awk에서 변수 사용

  AWK는 텍스트 기반의 데이터(파일이나 데이터 스트림)를 처리하기 위한 프로그래밍 언어입니다. 주로 문자열 데이터타입, 배열, 정규 표현식을 사용합니다.

  AWK는 본 쉘과 더불어 표준 유닉스 환경에서 사용할 수 있는 스크립트 언어이며 LSB(Linux Standard Base) 사양서에 반듯이 있어야 하는 것으로 규정된 명령어 중 하나입니다.

  비록 AWK가 1줄 프로그래밍을 지원하고 또 대부분 그렇게 사용되지만 하나의 완벽한 프로그램을 짜는 것도 가능합니다.


1. 파일에서 정렬 없이 중복 내용 삭제
  정렬을 하지 않고도 중복된 내용을 찾아 지우고 다른 파일로 리다이렉트하는 방법입니다.

awk ‘!x[$0]++’

  그리고 아래는 그 예와 결과입니다.

$ echo -e “aaa\nbbb\naaa\naa\nccc\naa”|awk \!’x[$0]++’
aaa
bbb
aa
ccc


2. 특정 파일 그룹의 총 용량 합산
  아래는 디렉토리 내에 모든 파일의 크기를 합산하는 방법입니다.

ls -l | awk ‘{s = s+$5 }; END { print s }’

  그리고 아래는 현재 디렉토리와 서브디렉토리 내에 있는 .mp3 파일들의 용량을 합산하는 방법입니다.

ls -lR |grep .mp3 | awk ‘{s = s+$5 }; END { print s }’


3. find 명령어와 연계
  아래는 find로 컴퓨터 내의 모든 .mp3 파일들을 찾아 위에서 본 것과 비슷한 방식으로 용량을 합산하는 방법입니다.

find / -name “*.mp3” -exec ls -l {} \; | awk ‘{s = s+$5 }; END { print s }’


4. 사용횟수로 기준으로 내림차순으로 정렬하여 히스토리 출력

history | awk ‘{a[$’`echo “1 2 $HISTTIMEFORMAT” | wc -w`’]++}END{for(i in a){print a[i] “\t” i}}’ | sort -rn | head


5. AWK 필드 분석
  각 줄마다 번호를 매기고 다시 각 줄의 아래에 해당 줄에 있는 필드마다 번호를 매겨 출력합니다.

awk ‘{print NR”: “$0; for(i=1;i<=NF;++i)print “\t”i”: “$i}’


6. 여러 파일의 파일명을 한 번에 변경
  아래는 특정 파일들의 파일명 끝에 ‘.new’를 붙이는 방법입니다. 앞 부분의 ‘ls -al pattern’을 변경하여 다양한 활용이 가능합니다.

ls -1 pattern | awk ‘{print “mv “$1” “$1″.new”}’ | sh

 

우분투 스타트업 시 스크립트 실행에 대하여

참조 원문 : How to Run Scripts at Ubuntu Startup

  우분투로 부팅할 때 어떤 스크립트를 실행시키게 만드는 일은 레드햇 기반의 리눅스에 비해 어려운 편인데 그 이유는 우분투가 전통적인 Sys-V Init 스크립트 방식 대신 진일보적인 업스타트라는 방식을 메인으로 사용하기 때문입니다. 지금으로서 우분투에서 부팅 시 스크립트를 돌리는 방법으로는 총 세 가지가 있습니다.(업스타트에 대한 자세한 설명은 없군요.)

1. Upstart 방식
  /etc/init.d 디렉토리에는 ‘업스타트 방식을 지원하는 프로그램들의 업스타트 스크립트에 대한 링크’가 전통적인 Sys-V Init 스크립트와 함께 공존하고 있습니다. 예를 들어 아래 중 apache2는 업스타트 방식을 사용하지 않지만 vsftpd는 업스타트를 사용한다는 것을 볼 수 있습니다.

ls -l /etc/init.dtotal 180
-rwxr-xr-x 1 root root 7476 2011-02-22 11:32 apache2
lrwxrwxrwx 1 root root 21 2011-05-21 04:37 vsftpd -> /lib/init/upstart-job


2. 하위호환을 위한 System-V 방식
  우분투가 업스타트를 사용하긴 하지만 많은 프로그램들이 업스타트를 지원하지 않는 탓에 여전히 Sys-V 방식을 지원합니다. 당연히 활용 방식은 다른 레드햇 기반과 동일합니다. 먼저 /etc/init.d 디렉토리 안에 스크립트를 집어넣고 아래와 같은 명령어로 해당 스크립트의 퍼미션을 변경합니다.

chmod 755 myscript

    그 후 원하는 런레벨에 해당하는 디렉토리 안에 심볼릭 링크를 만들어 해당 스크립트에 연결시킵니다. 예를 들어 위 스크립트를 런레벨2(우분투의 디폴트 런레벨로 그래픽 부팅에 해당)에서 실행되게 하려면 /etc/rc2.d 디렉토리 안에 심볼릭 링크를 만들면 됩니다. 역시 다른 리눅스와 마찬가지로 심볼릭 링크의 파일명에서 첫 글자를 S로 하고 그 뒤에 실행 순서용 숫자를 적어줍니다. 높은 숫자일수록 늦게 실행되죠.

ln -s /etc/init.d/myscript /etc/rc3.d/S99myscript

  팁으로 아래 프로그램을 설치 및 실행하여 위 작업을 더 편하게 할 수 있습니다. 물론 설치와 실행 모두 root 권한이 필요합니다.

sudo apt-get install sysv-rc-conf


3. rc.local 파일 사용
  가장 원시적인 방법으로서 /etc/rc.local 파일 안에 실행하고 싶은 명령어를 집어넣으면 2~5 런레벨일 때 해당 명령어를 실행합니다. 디폴트로 주석과 마지막 줄의 exit 0 빼고는 비어있습니다.

LSB Init 표준을 기반으로 리눅스 Init 스크립트를 작성하는 법

참조 원문 : How to Write Linux Init Scripts Based on LSB Init Standard

  LSB란 Linux Standard Base의 약자로서 리눅스 재단이 배포판 사이의 차이점을 줄여 다른 배포판으로 이식할 때 드는 비용을 줄이기 위해 만든 표준입니다. Init 스크립트도 표준화된 것들 중 하나입니다.

  Init 스크립트는 소프트웨어나 서비스를 시작하거나 중단할 때 사용합니다. 예를 들어 postgresql 소프트웨어를 사용하고 있다면 /etc/init.d/postgresql 이라는 Init 스크립트를 가지고 있을 것이며 인자로 start, stop, restart, reload, force-reload, status를 사용할 수 있습니다.

  LSB 호환 Init 스크립트는 아래 사항을 지켜야 합니다.

  • 최소한 ‘start, stop, restart, force-reload, status’를 제공해야 한다.
  • 적절한 exit code를 return해야 한다.
  • 실행 의존성(run-time dependencies)을 문서화해야 한다.

  추가적으로 이 스크립트들은 메시지를 남기기 위해 “log_success_msg”나 “log_failure_msg” 같은 init.d 함수를 사용할 수 있습니다.

  LSB는 /lib/lsb/init-functions에 있는 기본 함수들을 제공합니다. Init 스크립트로 실행되는 프로세스들은 /var/run/ 디렉토리에 프로세스의 pid를 기록하는데 이것은 Init 스크립트가 프로세스의 상태를 조사할 때 큰 도움이 됩니다.

  이제 Init 스크립트를 작성해봅시다. 먼저 아래처럼 헤더를 넣습니다.

### BEGIN INIT INFO
# Provides:          my_daemon
# Required-Start:    postgresql networking
# Required-Stop:     postgresql networking
# Default-Start:     2 3 4 5
# Default-Stop:      0 1 6
# Short-Description: This is a test daemon
# Description:       This is a test daemon
#                    This provides example about how to
#                    write a Init script.
### END INIT INFO

  Provides에는 해당 Init 스크립트가 제공하는 기능(facility=서비스)을 적습니다. 이 이름은 유일해야 합니다.

  Requred-Start에는 이 서비스를 시작하기 전에 작동하고 있어야 하는 일련의 기능들을 적습니다. 이 예제의 경우 postgresql과 networking이 미리 실행되어 있어야 함을 나타내고 있습니다. 기억해야 할 점은 이 ‘postgresql’가 ‘Provides: postgresql’이라고 적힌 별도의 Init 스크립트를 가지고 있어야 한다는 것입니다. 이를 통해 부팅 시 의존성을 보장합니다. ‘inserv’ 명령어나 ‘update-rc.d’ 명령어를 사용할 때 이 의존성을 바탕으로 대상 런레벨 디렉토리에 적절한 순번을 매겨 집어넣게 됩니다.

/etc/rc2.d/S12postgresql
/etc/rc2.d/S03networking
/etc/rc2.d/S13my_daemon

  예를 들어 위와 같은 엔트리가 있을 경우 networking, postgresql, my_daemon 순서로 실행됩니다.

  Required-Stop에는 이 기능을 중단한 후에만 중단할 수 있는 일련의 기능들을 적습니다. 이 예제의 경우 my_daemon이 중단된 후에만 postgresql과 networking 기능을 중단할 수 있습니다.

  Default-Start Default-Stop에는 이 서비스가 시작되거나 중단돼야 하는 런레벨을 정의합니다.

  Short-Description Description에는 해당 기능에 대한 설명을 적습니다. Short-Description에는 한 줄만 적을 수 있으며, Description에는 여러 줄에 걸쳐 적을 수 있습니다.

  아래는 실제 Init 스크립트의 예입니다.

### BEGIN INIT INFO
# Provides:          my_daemon
# Required-Start:    postgresql networking
# Required-Stop:     postgresql networking
# Default-Start:     2 3 4 5
# Default-Stop:      0 1 6
# Short-Description: This is a test daemon
# Description:       This is a test daemon
#                    This provides example about how to
#                    write a Init script.
### END INIT INFO

# Using the lsb functions to perform the operations.
. /lib/lsb/init-functions
# Process name ( For display )
NAME=my-daemon
# Daemon name, where is the actual executable
DAEMON=/home/user1/my_daemon
# pid file for the daemon
PIDFILE=/var/run/my_daemon.pid

# If the daemon is not there, then exit.
test -x $DAEMON || exit 5

case $1 in
 start)
  # Checked the PID file exists and check the actual status of process
  if [ -e $PIDFILE ]; then
   status_of_proc -p $PIDFILE $DAEMON “$NAME process” && status=”0″ || status=”$?”
   # If the status is SUCCESS then don’t need to start again.
   if [ $status = “0” ]; then
    exit # Exit
   fi
  fi
  # Start the daemon.
  log_daemon_msg “Starting the process” “$NAME”
  # Start the daemon with the help of start-stop-daemon
  # Log the message appropriately
  if start-stop-daemon –start –quiet –oknodo –pidfile $PIDFILE –exec $DAEMON ; then
   log_end_msg 0
  else
   log_end_msg 1
  fi
  ;;
 stop)
  # Stop the daemon.
  if [ -e $PIDFILE ]; then
   status_of_proc -p $PIDFILE $DAEMON “Stoppping the $NAME process” && status=”0″ || status=”$?”
   if [ “$status” = 0 ]; then
    start-stop-daemon –stop –quiet –oknodo –pidfile $PIDFILE
    /bin/rm -rf $PIDFILE
   fi
  else
   log_daemon_msg “$NAME process is not running”
   log_end_msg 0
  fi
  ;;
 restart)
  # Restart the daemon.
  $0 stop && sleep 2 && $0 start
  ;;
 status)
  # Check the status of the process.
  if [ -e $PIDFILE ]; then
   status_of_proc -p $PIDFILE $DAEMON “$NAME process” && exit 0 || exit $?
  else
   log_daemon_msg “$NAME Process is not running”
   log_end_msg 0
  fi
  ;;
 reload)
  # Reload the process. Basically sending some signal to a daemon to reload
  # it configurations.
  if [ -e $PIDFILE ]; then
   start-stop-daemon –stop –signal USR1 –quiet –pidfile $PIDFILE –name $NAME
   log_success_msg “$NAME process reloaded successfully”
  else
   log_failure_msg “$PIDFILE does not exists”
  fi
  ;;
 *)
  # For invalid arguments, print the usage message.
  echo “Usage: $0 {start|stop|restart|reload|status}”
  exit 2
  ;;
esac

  위 스크립트는 LSBInit 스크립트 작성을 위한 템플릿입니다. DAEMON, PIDFILE, NAME 변수, 헤더 등을 적절히 바꿔 사용할 수 있습니다.

  LSB가 제공하는 함수에 대해 더 알고 싶다면 InitScript Functions를 참조하시기 바랍니다.

  Init 스크립트를 작성한 후 자동으로 시작되거나 중단되게 만들려면 아래 형식으로 명령어를 실행합니다.(데비안 계열 기준)

update-rc.d filename defaults

  이 명령어는 지정한 런레벨에 의존성을 고려한 적절한 순번을 가진 ‘S’와 ‘K’ 엔트리를 추가합니다.

예제로 배우는 sed

참조 원문1 : SED(Stream EDitor ) Explained in detail for Linux/Unix
참조 원문2 : Learn SED with examples

1. 검색과 치환(s는 search의 약자)
  아래는 단어를 찾아 다른 단어로 치환하는 문법이다.
sed ‘s/searchterm/replaceterm/’ inputfile
또는
cat inputfilename | sed ‘s/searchterm/replaceterm/’
또는
echo “This is test message” | sed ‘s/searchterm/replaceterm/’

예제1: test.txt 파일에서 google을 찾아 yahoo로 치환
sed ‘s/google/yahoo/’ test.txt

예제2: sed는 기본적으로 처음 찾은 단어만 치환한다. 모든 단어를 치환하려면 g 스위치를 사용해야 한다.
echo “sheena leads, sheila needs” | sed ‘s/sh/le/g’

예제3: Separator 변경법. Separator가 검색하려는 단어에 포함된 경우 유용하다. 예를 들어 /var/ftp/pub을 검색하여 /opt/ftp/com으로 치환하려고 할 때 아래처럼 해도 제대로 작동하지 않는다.
sed ‘s//var/ftp/pub//opt/ftp/com/’ test.txt
이럴 땐 separator를 /에서 #나 $ 같은 다른 문자로 바꿔야 한다. 아래는 _를 사용하는 예제다.
sed ‘s_/var/ftp/pup_/opt/ftp/com_’ test.txt

예제4: 아래는 surendra를 Mr. surendra로 바꾸는 예제다.
sed ‘s/surendra/Mr. &/’ test.txt

예제5: 아래는 abc123suri 같은 패턴을 suriabc123으로 바꾸는 예제다.
echo “abc123suri” | sed ‘s/([a-z]*)([0-9]*)([a-z]*)/312/’


2. 출력(-n과 p 스위치)
예제6: 기본적으로 sed는 모든 줄을 출력하지만 -n(출력 억제)과 p 옵션을 사용하여 바뀐 줄만 출력할 수 있다.
cat tem.txt | sed -n ‘s/surendra/bca/p’


3. 수정(-i, w, d 스위치와 쉘 리다이렉션)
예제7: -i 옵션을 사용하면 변경점을 원본 파일에 적용할 수 있다.
sed –i ‘s/bca/Surendra/’ tem.txt

예제8: 리다이렉션으로도 같은 일을 할 수 있다.
sed ‘s/baby/dady/’ < tem.txt > abc.txt

예제9: w 옵션으로 변경점을 다른 파일에 저장할 수 있다.
sed ‘s/baby/dady/w abc.txt’ tem.txt


4. 여러 SED 명령어와 연속 연산자(-e와 ; 스위치)
예제10: Surendra, mouni, baby를 bca, mca, bba로 치환
sed -e ‘s/surendra/bca/’ -e ‘s/mouni/mca/’ -e ‘s/baby/bba/’ tem.txt

예제11: ;(연속 연산자)로 더 위보다 더 줄이기
sed ‘s/Surendra/bca/;s/mouni/mca/;s/baby/bba/’ tem.txt


5. 줄 번호 연산자(,와 = 스위치)
예제12: 3번째 줄 내용만 검색해서 치환하기
sed ‘3 s/Surendra/bca/’ tem.txt

예제13: 1~4번째 줄 내용만 검색해서 치환하기
sed ‘1,4 s/Surendra/bca/’ tem.txt

예제14: 2번째 줄에서부터 문서 끝까지 검색해서 치환하기
sed ‘2,$ s/Surendra/bca/’ tem.txt

예제15: 매 두 줄마다 한 줄로 결합. 아래는 N 옵션으로 두 줄을 합치는 예제. 치환으로 \n을 공백 같은 것으로 바꿔줘야 원하는 의도대로 나온다. sed는 기본적으로 한 줄씩 처리하여 출력하는데 두 줄을 하나로 합쳐놔도 라인피드(\n)가 그대로 남아있기 때문에 전혀 변하지 않은 것처럼 보이기 때문이다. 그리고 사실 아래 소개할 예제를 위해서 말고는 잘 안 쓰인다.
sed ‘N;s/\n/ /’ tem.txt

예제16: 검색해서 치환 후 모든 줄에 번호 넣기(‘=’ 옵션 사용)
sed = tem.txt

예제17: 번호를 같은 줄에 넣기
sed = tem.txt | sed ‘N;s/n/t/’


6. 검색 연산자(/단어/)
예제18: 한 단어를 검색해서 걸린 줄에서 작업하기
sed ‘/surendra/ s/audi/xyz/’ tem.txt

예제19: 위를 응용해서 특정 범위의 줄 내에서 작업하기
sed ‘3,/Surendra/ s/audi/xyz/’ tem.txt

예제20: 더 응용해서 찾은 단어가 있는 줄부터 문서 끝까지를 범위로 작업하기
sed ‘/Surendra/,$ s/audi/xyz/’ tem.txt


7. 부정 연산자(!)
  이 연산자는 w, p, d 옵션과 함께 사용한다.
예제21: abc 라는 단어가 없는 모든 줄을 출력
sed –n ‘/abc/ !p’ tem.txt

예제22: surenda 라는 단어가 있는 줄을 제외한 모든 줄을 삭제
sed ‘/surendra/ !d’ tem.txt

예제23: 1~3 줄만 빼고 모든 줄 삭제
sed ‘1,3 !d’