Cho em hỏi cách chuyển folder dung lượng lớn, dữ liệu lớn giữa các server

Discussion in 'Hỏi Đáp Kỹ Thuật' started by Newbie88, Jul 25, 2022.

  1. Newbie88

    Newbie88 Tân Thủ Thôn

    Em đang muốn chuyển vài TB dữ liệu (ảnh + video) qua server mới mua.
    Các huynh bày cho em cách nào chuyển ko bị mất data với tối ưu với ạ ( em định dùng scp nhưng lâu + đang chuyển nó bị gián đoạn xong là sml ).
    Em cảm ơn ạ.
     
  2. Nai

    Nai MiddleMan Staff Member

    rsync không được hả thớt
     
    Newbie88 likes this.
  3. command

    command Bang Chúng

    Chạy lệnh:
    Code:
    screen
    rsync -avz -e ssh /<source_folder>/* <user>@<destination_IP_server>:/destination_folder/
    Khi gõ lệnh rsync thì sẽ cần nhập password của user của destination_IP_server.

    P/S:
    - Nếu số lượng files lớn, ví dụ mình từng chuyển hơn 3 triệu files ảnh thì thời gian gần như khoảng hơn 5 ngày.
    - Nếu số lượng files lớn và nếu dung lượng máy hiện tại còn nhiều dung lượng trống thì nên gom các files lại (ko nén nhé, vì nén files sẽ tốn thời gian thực thi) để sau đó rsync thì nhanh hơn.
     
  4. gu gồ

    gu gồ Administrator Staff Member

    tuỳ con sv đích config thế nào mới chạy được cái cmd này anh
    ko thì phải config ssh keys
    rsync giữ được config của file nên chuyển cũng tiện hơn
     
    Newbie88 likes this.
  5. command

    command Bang Chúng

    Hình như admin chưa thử command với đối số trên rồi. Command trên ko gì thêm nhé, cũng như ko cần config SSH keys. Dĩ nhiên nếu VPS hoặc máy chủ chưa cài screen thì cài thôi, rsync gần như mặc định trên các dòng Linux. Nếu config SSH keys thì argument sẽ khác chút và ko cần phải nhập password.
     
    Newbie88 likes this.
  6. money

    money Hương Chủ

    Move data qua lại giữa các server thì dùng rsync là nhanh nhất rồi.

    Ở trên @command dùng thêm screen là để đảm bảo nếu tác vụ chạy quá lâu, lỡ rớt kết nối ssh từ client đến server thì nó vẫn chạy ngầm trên server (còn kết nối từ server cũ chứa data đến server mới thì hầu như ko bao giờ rớt nên khỏi lo. Lỡ xui ráng chịu khó làm lại)

    p/s: giải thích thêm cho dễ hiểu chứ lệnh trên là ok rồi
     
    nguyennv123, wpresources and Newbie88 like this.
  7. Cháu dì Sáu

    Cháu dì Sáu Bang Chúng

    Config id_rsa key để chạy tự động, ko phải nhập pass, trong cron chẳng hạn
     
    Newbie88 likes this.
  8. Newbie88

    Newbie88 Tân Thủ Thôn

    Em cảm ơn bác ạ
     
  9. nguyennv123

    nguyennv123 Tân Thủ Thôn

    Chạy thật sự nhanh & mượt, Thanks các bác nhiều nhé
     
    Last edited: Dec 14, 2023