Birçok müşteri için bir Google Cloud ürününü benimsemenin ilk adımı, verilerini Google Cloud'a aktarmaktır. Bu belge, bir veri aktarımının planlanmasından bir planın uygulanmasında en iyi uygulamaların kullanılmasına kadar bu süreci incelemektedir. Büyük veri kümelerini aktarmak, doğru ekibi oluşturmayı, erken planlamayı ve üretim ortamında uygulamadan önce aktarım planınızı test etmeyi içerir. Bu adımlar, transferin kendisi kadar zaman alsa da, bu tür hazırlıklar, transfer sırasında iş operasyonlarınızda meydana gelen kesintileri en aza indirmeye yardımcı olabilir. Bu belge, Google Cloud'a geçişle ilgili çok bölümlü bir dizinin parçasıdır. Seriye genel bir bakışla ilgileniyorsanız, Google Cloud'a Geçiş: Taşıma yolunuzu seçme başlıklı makaleye bakın. Bu makale bir dizinin parçasıdır: - Google Cloud'a Geçiş: Başlarken - Google Cloud'a Geçiş: İş yüklerinizi değerlendirme ve keşfetme - Google Cloud'a geçiş: Temelinizi oluşturma - Google Cloud'a Geçiş: Büyük veri kümelerinizi aktarma (bu belge) - Google Cloud'a Geçiş: İş yüklerinizi dağıtma - Google Cloud'a Geçiş: Manuel dağıtımlardan otomatikleştirilmiş, container mimarisine alınmış dağıtımlara geçiş - Google Cloud'a geçiş: Ortamınızı optimize etme - Google Cloud'a Geçiş: Bir geçiş planını doğrulamak için en iyi uygulamalar Aşağıdaki diyagram, geçiş yolculuğunuzun yolunu göstermektedir Dağıtım aşaması, iş yükleriniz için bir dağıtım süreci tasarladığınız Google Cloud'a geçişinizin üçüncü aşamasıdır. Şirket içi bir ortamdan, özel bir barındırma ortamından, başka bir bulut sağlayıcıdan Google Cloud'a geçiş yapmayı planlıyorsanız veya taşıma fırsatını değerlendiriyor ve bunun nasıl görünebileceğini keşfetmek istiyorsanız bu belge yararlıdır. beğenmek ## Veri aktarımı nedir? Bu belgenin amaçları doğrultusunda veri aktarımı, verileri dönüştürmeden taşıma işlemidir, örneğin dosyaları oldukları gibi nesnelere taşımak. Veri aktarımı göründüğü kadar basit değil Veri aktarımını, dosyalarınızı bir tarafa koyduğunuz ve diğer taraftan çıkmalarını beklediğiniz dev bir FTP oturumu olarak düşünmek cazip gelebilir. Ancak çoğu kuruluş ortamında aktarım işlemi aşağıdakiler gibi birçok faktörü içerir: - Bir transfer seçeneğine karar verme, onay alma ve öngörülemeyen sorunlarla ilgilenme zamanı da dahil olmak üzere idari zamanı hesaba katan bir transfer planı tasarlamak - Aktarımı yürüten ekip, araçları ve mimariyi onaylayan personel ve verilerin taşınmasının getirebileceği değer ve kesintilerle ilgilenen iş paydaşları gibi kuruluşunuzdaki kişileri koordine etmek - Kaynaklarınıza, maliyetinize, zamanınıza ve diğer proje hususlarına göre doğru transfer aracını seçme - "Işık hızı"sorunları (yetersiz bant genişliği), aktif kullanımda olan veri kümelerini taşıma, uçuş halindeyken verileri koruma ve izleme ve verilerin başarılı bir şekilde aktarılmasını sağlama dahil olmak üzere veri aktarımı zorluklarının üstesinden gelinmesi Bu belge, başarılı bir transfer girişimine başlamanıza yardımcı olmayı amaçlamaktadır. Veri aktarımı ile ilgili diğer projeler Aşağıdaki liste, bu belgede yer almayan diğer veri aktarımı projeleri için kaynakları içerir: - Verilerinizi dönüştürmeniz gerekiyorsa (satırları birleştirme, veri kümelerini birleştirme veya kişisel tanımlanabilir bilgileri filtreleme gibi), verileri bir Google Cloud veri ambarına depolayabilen bir ayıklama, dönüştürme ve yükleme (ETL) çözümü düşünmelisiniz. Bu mimarinin bir örneği için bu Dataflow eğitimine bakın - Bir veritabanını ve ilgili uygulamaları taşımanız gerekiyorsa (örneğin, bir veritabanı uygulamasını kaldırmak ve kaydırmak için), Cloud Spanner belgelerine, PostgreSQL çözümlerine ve veritabanı türünüzle ilgili diğer belgelere bakabilirsiniz. - Verilerinizi HBase'den, HBase API ile uyumlu ve daha büyük iş yüklerini kaldırabilen, tümüyle yönetilen bir NoSQL veritabanı hizmetine taşımak istiyorsanız Cloud Bigtable'a göz atın - Bir sanal makine (VM) örneğini taşımanız gerekirse, Google'ın sanal makine taşıma ürünü olan Migrate to Virtual Machines'i kullanmayı düşünün. ## 1. Adım: Ekibinizi oluşturma Bir transferin planlanması, genellikle aşağıdaki rollere ve sorumluluklara sahip personel gerektirir: Aktarım için gereken kaynakları etkinleştirme:Depolama, BT ve ağ yöneticileri, bir yönetici sponsor ve diğer danışmanlar (örneğin, bir Google Hesabı ekibi veya entegrasyon iş ortakları) Aktarım kararını onaylama:Veri sahipleri veya yöneticiler (kimlerin aktarıldığına ilişkin dahili politikalar için) hangi verilerin aktarılmasına izin verilir), hukuk danışmanları (verilerle ilgili düzenlemeler için) ve bir güvenlik yöneticisi (veri erişiminin nasıl korunduğuna ilişkin dahili politikalar için) Aktarımı gerçekleştirme: Bir ekip lideri, bir proje yöneticisi (projeyi yürütmek ve izlemek için) ), bir mühendislik ekibi ve yerinde alma ve gönderme (cihaz donanımını almak için) Transfer projeniz için önceki sorumlulukların kime ait olduğunu belirlemek ve uygun olduğunda onları planlama ve karar toplantılarına dahil etmek çok önemlidir. Zayıf organizasyonel planlama genellikle başarısız transfer girişimlerinin nedenidir. Proje gereksinimlerini ve bu paydaşlardan girdi toplamak zor olabilir, ancak bir plan yapmak ve net roller ve sorumluluklar belirlemek işe yarar. Verilerinizin tüm ayrıntılarını bilmeniz beklenemez. Bir ekip oluşturmak, işletmenin ihtiyaçları hakkında size daha fazla fikir verir. Transferleri tamamlamak için zaman, para ve kaynak yatırımı yapmadan önce olası sorunları belirlemek en iyi uygulamadır. ## 2. Adım: Gereksinimlerin ve mevcut kaynakların toplanması Bir aktarım planı tasarladığınızda, önce veri aktarımınız için gereksinimleri toplamanızı ve ardından bir aktarım seçeneğine karar vermenizi öneririz. Gereksinimleri toplamak için aşağıdaki işlemi kullanabilirsiniz: - Taşımanız gereken veri kümelerini belirleyin - Verilerinizi birlikte taşınan ve kullanılan mantıksal gruplar halinde düzenlemek için Veri Kataloğu gibi araçları seçin - Bu gruplamaları doğrulamak veya güncellemek için kuruluşunuzdaki ekiplerle birlikte çalışın - Hangi veri kümelerini kullandığınızı belirleyin hareket edebilir - Düzenleyici, güvenlik veya diğer faktörlerin bazı veri kümelerinin aktarılmasını engelleyip engellemediğini değerlendirin - Verilerinizin bir kısmını taşımadan önce dönüştürmeniz gerekiyorsa (örneğin, hassas verileri kaldırmak veya verilerinizi yeniden düzenlemek için), Dataflow veya Cloud Data Fusion gibi bir veri entegrasyonu ürünü veya Cloud Composer gibi bir iş akışı düzenleme ürünü kullanmayı düşünün. - Taşınabilir veri kümeleri için, her bir veri kümesinin nereye aktarılacağını belirleyin - Verilerinizi saklamak için hangi depolama seçeneğini seçtiğinizi kaydedin. Genellikle, Google Cloud'daki hedef depolama sistemi Cloud Storage'dır. Uygulamalarınız çalışmaya başladıktan sonra daha karmaşık çözümlere ihtiyacınız olsa bile, Bulut Depolama ölçeklenebilir ve dayanıklı bir depolama seçeneğidir. - Geçişten sonra hangi veri erişim politikalarının sürdürülmesi gerektiğini anlayın - Bu verileri belirli bölgelerde depolamanız gerekip gerekmediğini belirleyin - Bu verilerin varış noktasında nasıl yapılandırılacağını planlayın. Mesela kaynakla aynı mı yoksa farklı mı olacak? - Verileri sürekli olarak aktarmanız gerekip gerekmediğini belirleyin - Taşınabilir veri kümeleri için hangi kaynakların kullanılabilir olduğunu belirleyin onları hareket ettirmek - Zaman: Transferin ne zaman tamamlanması gerekiyor? - Maliyet: Ekip ve transfer maliyetleri için mevcut bütçe nedir? - Kişiler: Aktarımı gerçekleştirmek için kimler müsait? - Bant genişliği (çevrimiçi aktarımlar için): Google Cloud için mevcut bant genişliğinizin ne kadarı bir aktarım için ve hangi süre için ayrılabilir? Planlamanın bir sonraki aşamasında aktarım seçeneklerini değerlendirip seçmeden önce, BT modelinizin veri yönetişimi, organizasyon ve güvenlik gibi herhangi bir bölümünün iyileştirilip iyileştirilemeyeceğini değerlendirmenizi öneririz. Güvenlik modeliniz Aktarım ekibinin birçok üyesine, veri aktarımı projenizin bir parçası olarak Google Cloud kuruluşunuzda yeni roller verilebilir.Veri aktarımı planlaması, Kimlik ve Erişim Yönetimi (IAM) izinlerinizi ve IAM'yi güvenli bir şekilde kullanmaya yönelik en iyi uygulamaları gözden geçirmek için harika bir zamandır.Bu sorunlar, depolama alanınıza nasıl erişim verdiğinizi etkileyebilir.Örneğin, düzenleyici nedenlerle arşivlenen verilere yazma erişimine katı sınırlamalar koyabilirsiniz, ancak birçok kullanıcının ve uygulamanın test ortamınıza veri yazmasına izin verebilirsinizGoogle Cloud kuruluşunuzGoogle Cloud'da verilerinizi nasıl yapılandıracağınız, Google Cloud'u nasıl kullanmayı planladığınıza bağlıdır.Verilerinizi, uygulamanızı çalıştırdığınız aynı Bulut projesinde depolamak basit bir yaklaşımdır, ancak yönetim açısından ideal olmayabilir.Geliştiricilerinizden bazılarının üretim verilerini görüntüleme ayrıcalığı olmayabilir.Bu durumda, ayrıcalıklı bir hizmet hesabı üretim verilerine erişebilirken, bir geliştirici örnek veriler üzerinde kod geliştirebilir.Bu nedenle, tüm üretim veri kümenizi ayrı bir Bulut projesinde tutmak ve ardından her bir uygulama projesindeki verilere erişime izin vermek için bir hizmet hesabı kullanmak isteyebilirsinizGoogle Cloud projeler etrafında örgütlenmiştir.Projeler klasörler halinde gruplandırılabilir ve klasörler kuruluşunuzun altında gruplanabilir.Roller, proje düzeyinde oluşturulur ve erişim izinleri, Cloud Storage grup düzeylerinde bu rollere eklenir.Bu yapı, diğer nesne deposu sağlayıcılarının izin yapısıyla uyumludurBir Google Cloud kuruluşu yapılandırmaya yönelik en iyi uygulamalar için bkz. Google Cloud giriş bölgeniz için bir kaynak hiyerarşisi belirleme## 3. Adım: Aktarım seçeneklerinizi değerlendirmeVeri aktarım seçeneklerinizi değerlendirmek için, aktarım ekibinin aşağıdakiler de dahil olmak üzere çeşitli faktörleri göz önünde bulundurması gerekir:- Maliyet- Zaman- Çevrimdışı ve çevrimiçi aktarım seçenekleri- Aktarım araçları ve teknolojileri- GüvenlikMaliyetİlgili maliyetlerin çoğu veri aktarımına aşağıdakiler dahildir:- Ağ maliyetleri- Bulut Depolamaya giriş ücretsizdir.Ancak, verilerinizi genel bir bulut sağlayıcısında barındırıyorsanız, verilerinizin aktarılması için bir çıkış ücreti ve potansiyel olarak depolama maliyetleri (örneğin, okuma işlemleri) ödemeyi bekleyebilirsiniz.Bu ücret, Google veya başka bir bulut sağlayıcıdan gelen veriler için geçerlidir- Verileriniz işlettiğiniz özel bir veri merkezinde barındırılıyorsa, ayrıca ayar için ek maliyetler ödemeniz gerekebilir Google Cloud'a daha fazla bant genişliği- Veri aktarımı sırasında ve sonrasında Cloud Storage için depolama ve işletme maliyetleri- Ürün maliyetleri (örneğin, bir Aktarım Cihazı)- Ekibinizi bir araya getirmek ve lojistik destek almak için gereken personel maliyetleriZamanAğların büyük miktarda veri aktarımı gibi donanım sınırlamalarını vurgulayan çok az şey vardır.İdeal olarak, 1 Gb/sn'lik bir ağ üzerinden 1 GB'ı sekiz saniyede aktarabilirsiniz.Bunu çok büyük bir veri kümesine (örneğin, 100 TB) ölçeklerseniz, aktarım süresi 12 gündür.Devasa veri kümelerini aktarmak, altyapınızın sınırlarını test edebilir ve potansiyel olarak işletmeniz için sorunlara neden olabilirBir aktarımın ne kadar sürebileceğini anlamak için aşağıdaki hesaplayıcıyı kullanabilirsiniz. taşıdığınız veri kümesinin boyutu ve aktarım için mevcut bant genişliği.Yönetim süresinin belirli bir yüzdesi hesaplamalara dahil edilir.Ek olarak, etkin bir bant genişliği verimliliği dahil edildiğinden, ortaya çıkan sayılar daha gerçekçi olur ve ideal sayılar elde edilmezBüyük veri kümelerini şirketinizin dışına aktarmak istemeyebilirsiniz yoğun çalışma saatlerinde ağ.Aktarım ağı aşırı yüklerse, başka hiç kimse gerekli veya görev açısından kritik işi tamamlayamaz.Bu nedenle transfer ekibinin zaman faktörünü dikkate alması gerekiyorVeriler Cloud Storage'a aktarıldıktan sonra, yeni dosyaları geldiklerinde işlemek için DataflowAğ bant genişliğini artırmaAğı nasıl artırırsınız gibi bir dizi teknolojiyi kullanabilirsiniz. bant genişliği, Google Cloud'a nasıl bağlandığınıza bağlıdırGoogle Cloud ile diğer bulut sağlayıcılar arasındaki buluttan buluta aktarımda, Google, bulut satıcısı veri merkezleri arasındaki bağlantıyı sizin herhangi bir kurulum yapmanıza gerek kalmadan sağlarÖzel veri merkeziniz ile Google Cloud arasında veri aktarıyorsanız, üç ana yaklaşım vardır:- Genel bir API kullanarak genel bir internet bağlantısı- Genel bir API kullanarak Doğrudan Eşleme- Özel bir API kullanarak Bulut Ara BağlantısıBu yaklaşımları değerlendirirken, uzun vadeli bağlantı gereksinimlerinizi göz önünde bulundurmanız yararlı olacaktır.Yalnızca aktarım amacıyla bant genişliği elde etmenin çok yüksek maliyetli olduğu sonucuna varabilirsiniz, ancak Google Cloud'un uzun vadeli kullanımı ve kuruluşunuz genelindeki ağ ihtiyaçları dikkate alındığında, yatırım değerli olabilirHalka açık bir internet bağlantısıyla bağlanmaHalka açık bir internet bağlantısı kullandığınızda, internet servis sağlayıcınızın (İSS) kapasitesi ve yönlendirmesi ile sınırlı olduğunuz için ağ verimi daha az tahmin edilebilir.ISP ayrıca sınırlı bir Hizmet Düzeyi Sözleşmesi (SLA) sunabilir veya hiç sunmayabilir.Bununla birlikte, bu bağlantılar nispeten düşük maliyetler sunar ve Google'ın kapsamlı eşleştirme düzenlemeleri sayesinde, İSS'niz sizi birkaç ağ atlamasında Google'ın küresel ağına yönlendirebilirKontrol etmenizi öneririz şirket politikanızın bazı veri kümelerinin halka açık internet üzerinden taşınmasını yasaklayıp yasaklamadığı konusunda güvenlik yöneticinizle görüşün.Ayrıca üretim trafiğiniz için genel internet bağlantısının kullanılıp kullanılmadığını kontrol edin.Büyük ölçekli veri aktarımları, üretim ağını olumsuz etkileyebilirDoğrudan Eşleme ile Bağlanma Google ağına genel internet bağlantısına kıyasla daha az ağ atlamasıyla erişmek için Doğrudan Eşleme'yi kullanabilirsiniz. Doğrudan Eşleme'yi kullanarak, ağınız ile Google'ın Uç Varlık Noktaları (PoP'ler) arasında internet trafiği alışverişi yapabilirsiniz; bu, verilerinizin genel interneti kullanmadığı anlamına gelir. Bunu yapmak, ağınız ile Google'ın ağı arasındaki atlama sayısını da azaltır. Google'ın ağıyla eşleme, kayıtlı bir Otonom Sistem (AS) Numarası oluşturmanızı, bir internet alışverişi kullanarak Google'a bağlanmanızı ve ağ operasyon merkezinizle 24 saat iletişim kurmanızı gerektirir. Cloud Interconnect ile Bağlanma Cloud Interconnect, Google veya Cloud Interconnect hizmet sağlayıcılarından biri aracılığıyla Google Cloud'a doğrudan bağlantı sunar. Bu hizmet, verilerinizin halka açık internete girmesini önlemeye yardımcı olur ve büyük veri aktarımları için daha tutarlı bir aktarım hızı sağlayabilir. Cloud Interconnect, genellikle ağ kullanılabilirliği ve ağlarının performansı için SLA'lar sağlar. Daha fazla bilgi edinmek için doğrudan bir servis sağlayıcıyla iletişime geçin. Cloud Interconnect, özel adresleme RFC 1918'i de destekler, böylece bulut, genel IP adreslerine veya NAT'lara ihtiyaç duymadan özel veri merkezinizin bir uzantısı haline gelir. Çevrimiçi ve çevrimdışı aktarım Kritik bir karar, veri aktarımınız için çevrimdışı mı yoksa çevrimiçi bir işlemin mi kullanılacağıdır. Yani, ister özel bir ara bağlantı ister halka açık internet olsun, bir ağ üzerinden aktarım veya depolama donanımı kullanarak aktarım arasında seçim yapmalısınız. Bu karara yardımcı olmak için, bu iki seçenek arasındaki süre ve maliyet farklarını tahmin etmenize yardımcı olacak bir transfer hesaplayıcı sağlıyoruz. Aşağıdaki grafik ayrıca çeşitli veri kümesi boyutları ve bant genişlikleri için bazı aktarım hızlarını göstermektedir. Bu hesaplamalara belirli bir miktarda yönetim yükü eklenir. Daha önce belirtildiği gibi, veri aktarımınız için daha düşük gecikme süreleri elde etme maliyetinin (ağ bant genişliği elde etme gibi) kuruluşunuza yapılan bu yatırımın değeriyle dengelenip dengelenmediğini düşünmeniz gerekebilir. Google'dan sunulan seçenekler Google, veri aktarımı gerçekleştirmenize yardımcı olacak çeşitli araçlar ve teknolojiler sunar. Google'ın aktarım seçenekleri arasında karar verme Bir aktarım seçeneği belirlemek, aşağıdaki tabloda gösterildiği gibi kullanım durumunuza bağlıdır | |Verileri nereden taşıyorsunuz | |Senaryo | |Önerilen ürünler |Başka bir bulut sağlayıcıdan (örneğin, Amazon Web Services veya Microsoft Azure) Google CloudStorage Transfer Service'e| |Bulut Depolamadan Bulut Depolamaya (iki farklı grupDepolama Aktarım Hizmeti| |Özel veri merkezinizden Google Cloud'a||Projenizin son tarihini karşılamak için yeterli bant genişliği | 1 TB'tan az veri için | | |Özel veri merkezinizden Google Cloud'a||Projenizin son tarihini karşılamak için yeterli bant genişliği | 1 TB'tan fazla veri için |Şirket içi veriler için Depolama Aktarım Hizmeti| |Özel veri merkezinizden Google Cloud'a||Projenizin son tarihini karşılamak için yeterli bant genişliği yok||Aygıtı Aktarın| şirket içi verilerin daha küçük aktarımları için gsutil bu gsutil aracı küçük ve orta ölçekli transferler için standart araçtır (en az 1 TB) Google Cloud'a. eklemenizi öneririz. varsayılan yolunuzdaki gsutil ne zaman kullanırsın Bulut Kabuğu Yüklediğinizde varsayılan olarak da kullanılabilir. Google Bulut CLI'sı Yönetmeniz gereken tüm temel özellikleri sağlayan güvenilir bir araçtır. sizin Bulut depolama verilerinizin yerel dosya sistemine ve yerel dosya sisteminden kopyalanması ve Bulut depolama. Ayrıca nesneleri taşıyabilir, yeniden adlandırabilir ve gibi gerçek zamanlı artımlı eşitlemeler rsync, bir Bulut Depolama paketine gsutil özellikle aşağıdaki senaryolarda kullanışlıdır: - Aktarımlarınızın gerektiği gibi veya kullanıcılarınızın komut satırı oturumları sırasında gerçekleştirilmesi gerekir - Yalnızca birkaç dosyayı veya çok büyük dosyaları veya her ikisini birden aktarıyorsunuz - Bir programın çıktısını tüketiyorsunuz (çıktıyı Cloud Storage'a aktarıyorsunuz) - Makul sayıda dosya içeren bir dizini izlemeniz ve güncellemeleri çok düşük gecikmelerle senkronize etmeniz gerekir. ile başlamanın temelleri gsutil için bir Bulut Depolama paketi oluşturun ve verileri kopyala o kovaya Daha büyük veri kümelerinin aktarımı için yapılması gereken iki şey vardır. düşünmek: Çok iş parçacıklı aktarımlar için şunu kullanın: gsutil-m Birkaç dosya paralel olarak işlenir ve aktarım hızlarınız artar Tek bir büyük dosya için Bileşik aktarımları kullanın Bu yöntem, aktarım hızını artırmak için büyük dosyaları daha küçük parçalara böler. Parçalar, tüm verileri Google'a göndererek paralel olarak aktarılır ve doğrulanır. Parçalar Google'a ulaştıktan sonra birleştirilirler (şu şekilde anılır: oluşturma) tek bir nesne oluşturmak için gsutil ile bileşik aktarımların, her bir parçanın (nesnenin tamamı değil) ayrı ayrı sağlama toplamı olması ve soğuk depolama sınıflarının bileşiminin erken silme cezalarına yol açması gibi bazı dezavantajları vardır. Şirket içi verilerin büyük aktarımları için Depolama Aktarım Hizmeti Sevmek sutil, Şirket içi veriler için Depolama Aktarım Hizmeti ağ dosya sistemi (NFS) deposundan şuraya aktarımları etkinleştirir: Bulut depolama. Rağmen gsutil, küçük aktarım boyutlarını destekleyebilir (en fazla 1 TB'a kadar), şirket içi veriler için Depolama Aktarım Hizmeti, büyük ölçekli aktarımlar (petabaytlarca veriye, milyarlarca dosyaya kadar). Destekler tam kopyalar veya artımlı kopyalar ve listelenen tüm aktarım seçeneklerinde çalışır daha önce Google'ın transfer seçenekleri arasında karar vermek. BT ayrıca basit, yönetilen bir grafiksel kullanıcı arayüzüne sahiptir; teknik olarak anlayışlı olmayanlar bile kullanıcılar (kurulumdan sonra) verileri taşımak için kullanabilir Şirket içi veriler için Depolama Aktarım Hizmeti özellikle aşağıdaki senaryolarda kullanışlıdır: - Veri hacimlerini taşımak için yeterli kullanılabilir bant genişliğiniz var (Google Bulut Veri Aktarımı Hesaplayıcı'ya bakın) - Bir komut satırı bulabilecek geniş bir dahili kullanıcı tabanını destekliyorsunuz araç gibi gsutil kullanımı zor - Sağlam bir hata bildirimine ve taşınan tüm dosya ve nesnelerin bir kaydına ihtiyacınız var - Aktarımların veri merkezinizdeki diğer iş yükleri üzerindeki etkisini sınırlamanız gerekir (bu ürün, kullanıcı tarafından belirlenen bir bant genişliği sınırının altında kalabilir) - Yinelenen transferleri bir programa göre çalıştırmak istiyorsunuz Şirket içi veriler için Depolama Aktarım Hizmeti'ni şuraya yükleyerek ayarlarsınız: veri merkezinizdeki bilgisayarlara [*aracı* olarak bilinen] tesis yazılımı. Bunlar aracılar Docker kapsayıcılarındadır ve bu da birçoğunun çalıştırılmasını kolaylaştırır veya onları Kubernetes aracılığıyla yönetin Kurulum tamamlandıktan sonra, kullanıcılar şu işlemleri yaparak Google Cloud konsolunda aktarımları başlatabilir: bir kaynak dizin, hedef grup ve zaman veya program sağlama Depolama Aktarım Hizmeti, depolama alanındaki alt dizinleri ve dosyaları yinelemeli olarak tarar. kaynak dizini ve karşılık gelen ada sahip nesneler oluşturur. Bulut Depolama [/dir/foo/file.txt nesnesi, /dir/foo/file.txt adlı hedef klasörde bir nesne haline gelir]. Depolama Aktarım Hizmeti herhangi bir geçici hatayla karşılaştığında bir aktarımı otomatik olarak yeniden dener Aktarımlar devam ederken kaç dosyanın taşındığını ve kaç dosyanın taşındığını izleyebilirsiniz. genel aktarım hızı ve hata örneklerini görüntüleyebilirsiniz Aktarım tamamlandığında, dokunulan tüm dosyaların ve alınan hata mesajlarının tam kaydıyla sekmeyle ayrılmış bir dosya (TSV) oluşturulur. Temsilciler hataya dayanıklıdır, bu nedenle bir aracı devre dışı kalırsa, transfer kalan aracılarla devam eder. Aracılar ayrıca kendi kendini günceller ve kendi kendini onarır; bu nedenle, beklenmeyen bir sorun nedeniyle çökerse en son sürümlere yama uygulama veya süreci yeniden başlatma konusunda endişelenmenize gerek yoktur. Depolama Aktarım Hizmetini kullanırken dikkat edilmesi gerekenler: Her makinede aynı aracı kurulumunu kullanın. Tüm aracılar, aynı Ağ Dosya Sistemi (NFS) bağlantılarını aynı şekilde (aynı göreli yollar) görmelidir. Bu kurulum, ürünün çalışması için bir gerekliliktir. Daha fazla aracı, daha fazla hız anlamına gelir. Aktarımlar tüm aracılar arasında otomatik olarak paralelleştirildiğinden, mevcut bant genişliğinizi kullanmak için birçok aracı dağıtmanızı öneririz. Bant genişliği sınırları iş yüklerinizi koruyabilir. Diğer iş yükleriniz veri merkezi bant genişliğinizi kullanıyor olabilir, bu nedenle aktarımların SLA'larınızı etkilemesini önlemek için bir bant genişliği sınırı belirleyin. Hataları gözden geçirmek için zaman planlayın. Büyük aktarımlar genellikle inceleme gerektiren hatalara neden olabilir. Depolama Aktarım Hizmeti, doğrudan Google Cloud konsolunda karşılaşılan hataların bir örneğini görmenizi sağlar. Gerekirse dosyaları kontrol etmek veya yeniden denemelerden sonra bile kalan hataları değerlendirmek için tüm aktarım hatalarının tam kaydını BigQuery'ye yükleyebilirsiniz. Bu hatalar, aktarım gerçekleşirken kaynağa yazmakta olan uygulamaların çalıştırılmasından kaynaklanabilir veya hatalar, sorun giderme gerektiren bir sorunu (örneğin, izin hatası) ortaya çıkarabilir. Uzun süre devam eden transferler için Cloud Monitoring'i kurun.Storage Transfer Service, Monitoring'in ajan sağlığını ve iş hacmini izlemesine olanak tanır, böylece ajanlar çalışmadığında veya ilgilenilmesi gerektiğinde sizi bilgilendiren uyarılar ayarlayabilirsiniz. Aracı hatalarına göre hareket etmek, birkaç gün veya hafta süren transferler için önemlidir, böylece proje zaman çizelgenizi geciktirebilecek önemli yavaşlamalardan veya kesintilerden kaçınırsınız. Daha büyük transferler için Transfer Cihazı Büyük ölçekli transferler için (özellikle sınırlı ağ bant genişliğine sahip transferler), özellikle hızlı bir ağ bağlantısının olmadığı ve daha fazla bant genişliği elde etmenin çok maliyetli olduğu durumlarda, Transfer Cihazı mükemmel bir seçenektir. Transfer Cihazı özellikle aşağıdaki senaryolarda kullanışlıdır: - Veri merkeziniz, bant genişliğine erişimin sınırlı olduğu veya hiç olmadığı uzak bir konumdadır.- Bant genişliği mevcuttur, ancak son teslim tarihini karşılamak için zamanında elde edilemez- Cihazları alıp ağınıza bağlamak için lojistik kaynaklara erişiminiz varBu seçenekle şunları göz önünde bulundurun:- Aktarım Cihazı, Google'a ait donanımı alıp geri gönderebilmenizi gerektirir- İnternet bağlantınıza bağlı olarak, Google Cloud'a veri aktarma gecikmesi genellikle Aktarım Aracı ile çevrimiçi olduğundan daha yüksektir- Aktarım Aracı yalnızca belirli ülkelerde kullanılabilirDikkate alınması gereken iki ana kriter Transfer Cihazı ile maliyet ve hızdır.Makul ağ bağlantısıyla (örneğin, 1 Gb/sn), 100 TB verinin çevrimiçi aktarımının tamamlanması 10 günden fazla sürer.Bu oran kabul edilebilirse, çevrimiçi transfer ihtiyaçlarınız için muhtemelen iyi bir çözümdür.Yalnızca 100 Mbps bağlantınız varsa (veya uzak bir konumdan daha kötüsü), aynı aktarım 100 günden fazla sürer.Bu noktada, Transfer Cihazı gibi bir çevrimdışı transfer seçeneğini dikkate almaya değerBir Transfer Cihazı edinmek kolaydır.Google Cloud konsolunda, bir Aktarım Cihazı talep edersiniz, ne kadar veriye sahip olduğunuzu belirtirsiniz ve ardından Google, bir veya daha fazla cihazı istediğiniz konuma gönderir.Verilerinizi araca aktarmanız ("veri yakalama") ve Google'a geri göndermeniz için size birkaç gün verilirBir ağ aygıtı için beklenen geri dönüş süresi Google Cloud'da gönderilmek, verilerinizle birlikte yüklenmek, geri gönderilmek ve yeniden sulandırılmak için 20 gündür.Çevrimiçi aktarım sürenizin bu süreden önemli ölçüde fazla olduğu hesaplanıyorsa, Aktarım Aracını düşünün.300 TB cihaz işleminin toplam maliyeti 2.500 ABD dolarından azdırBuluttan buluta aktarımlar için Depolama Aktarım HizmetiDepolama Aktarım Hizmeti, tam olarak yönetilen bir , diğer halktan Bulut Depolamaya aktarımları otomatikleştirmek için üst düzeyde ölçeklenebilir hizmet.Amazon S3 ve HTTP'den Bulut Depolamaya aktarımları desteklerAmazon S3 için, S3 için isteğe bağlıfiltrelerle bir erişim anahtarı ve bir S3 klasörü sağlayabilirsiniz nesneleri seçin ve ardından S3 nesnelerini herhangi bir Bulut Depolama paketi. Hizmet ayrıca herhangi bir dosyanın günlük kopyalarını da destekler. değiştirilmiş nesneler. Hizmet şu anda veri aktarımlarını desteklemiyor *ile* Amazon S3 HTTP için, Depolama Aktarım Hizmeti'ne genel URL'lerin bir listesini verebilirsiniz. belirtilen biçim Bu yaklaşım, her birinin boyutunu sağlayan bir komut dosyası yazmanızı gerektirir. bayt cinsinden dosya, dosya içeriğinin Base64 kodlu MD5 karması ile birlikte Bazen dosya boyutu ve hash, kaynak web sitesinden edinilebilir. Eğer değil, dosyalara yerel erişime ihtiyacınız var, bu durumda dosyalara erişmek daha kolay olabilir. kullanmak gsutil, daha önce açıklandığı gibi Yerinde bir aktarımınız varsa, Depolama Aktarım Hizmeti, özellikle başka bir genel buluttan aktarım yaparken veri almanın ve saklamanın harika bir yoludur. Güvenlik Birçok Google Cloud kullanıcısı için birincil odak noktası güvenliktir ve farklı güvenlik düzeyleri mevcuttur. Güvenliğin göz önünde bulundurulması gereken birkaç yönü, bekleyen verileri korumayı (kaynak ve hedef depolama sistemine yetkilendirme ve erişim), aktarım sırasında verileri korumayı ve aktarım ürününe erişimi korumayı içerir. Aşağıdaki tablo, ürüne göre güvenliğin bu yönlerini özetlemektedir | |Ürün | |Durağan veriler | |Aktarımdaki veriler | |Aktarılan ürüne erişim |Aktarım Cihazı||Tüm veriler dinlenme sırasında şifrelenirVeriler müşteri tarafından yönetilen anahtarlarla korunurHerkes bir cihaz sipariş edebilir, ancak onu kullanmak için veri kaynağına erişmeleri gerekir.| | ||Rest'te şifrelenen Cloud Storage'a erişmek için gereken erişim anahtarlarıData HTTPS üzerinden gönderilir ve aktarım sırasında şifrelenirHerkes indirebilir ve çalıştırabilir | |Şirket içi veriler için Depolama Aktarım Hizmeti||Stokta şifrelenen Bulut Depolamaya erişmek için erişim anahtarları gerekir. Aracı işlemi, işletim sistemi izinleri izin verdiği için yerel dosyalara erişebilir Veriler HTTPS üzerinden gönderilir ve aktarım sırasında şifrelenir. Bulut Depolama gruplarına erişmek için nesne düzenleyici izinlerine sahip olmalısınız.| |Depolama Aktarım Hizmeti||Google Cloud dışı kaynaklar (örneğin, Amazon S3) için erişim anahtarları gerekir. Cloud Storage'a erişmek için erişim anahtarları gereklidir, dinlenme sırasında şifrelenir Veriler HTTPS üzerinden gönderilir ve aktarım sırasında şifrelenirHerhangi bir Cloud Storage grubu için kaynak ve nesne düzenleyici izinlerine erişmek üzere hizmet hesabına yönelik IAM izinlerine sahip olmanız gerekir.| Temel güvenlik iyileştirmelerini elde etmek için, Google Cloud kullanıyor gsutil HTTPS üzerinden gerçekleştirilir, veriler aktarım sırasında şifrelenir ve tüm veriler Cloud Storage, varsayılan olarak beklemedeyken şifrelenir. hakkında bilgi için güvenlikle ilgili daha karmaşık şemalar, bkz. Güvenlik ve gizlilik hususları Eğer kullanırsan Transfer Cihazı, Kontrol ettiğiniz güvenlik anahtarları, verilerinizin korunmasına yardımcı olabilir. Genel olarak, biz transfer planınızın doğru olduğundan emin olmak için güvenlik ekibinizle görüşmenizi tavsiye ederiz. şirketinizin ve mevzuat gerekliliklerini karşılar Üçüncü taraf transfer ürünleri Gelişmiş ağ düzeyinde optimizasyon veya devam eden veri aktarımı iş akışları için daha gelişmiş araçlar kullanmak isteyebilirsiniz. Daha gelişmiş araçlar hakkında bilgi için Google iş ortaklarını ziyaret edin Aşağıdaki bağlantılar birçok seçenekten bazılarını vurgulamaktadır (burada alfabetik sırayla listelenmiştir): - Aspera On Cloud, Aspera'nın patentli protokolünü temel alır ve büyük ölçekli iş akışları için uygundur. Abonelik lisansı modeli olarak talep üzerine sunulur - Tervela'nın sunduğu Cloud FastPath, Google Cloud içinde ve dışında yönetilen bir veri akışı oluşturmak için kullanılabilir. Ayrıntılar için bkz. Veri akışları oluşturmak için Cloud FastPath'i kullanma - Signiant, herhangi bir yere veya herhangi bir yerden herhangi bir dosyayı aktarmak için bir hizmet olarak yazılım (SaaS) çözümü olarak Media Shuttle'ı sunar. Signiant ayrıca Flight'ı yüksek oranda optimize edilmiş bir protokole dayalı bir otomatik ölçeklendirme aracı olarak ve Signiant Flight Deck'i coğrafi olarak dağınık konumlar arasında büyük ölçekli transferler için bir otomasyon aracı olarak sunar. ## 4. Adım: Transferiniz için hazırlanıyor Büyük bir transfer veya önemli bağımlılıkları olan bir transfer için transfer ürününüzü nasıl çalıştıracağınızı anlamak önemlidir. Müşteriler genellikle aşağıdaki adımlardan geçer: Fiyatlandırma ve yatırım getirisi tahmini. Bu adım, karar vermeye yardımcı olacak birçok seçenek sunar. İşlev testi. Bu adımda, ürünün başarıyla kurulabileceğini ve ağ bağlantısının (varsa) çalıştığını onaylarsınız. Ayrıca, verilerinizin temsili bir örneğini (bir sanal makine örneğini taşıma gibi eşlik eden aktarım dışı adımlar dahil) hedefe taşıyabileceğinizi de test edersiniz. Bu adımı genellikle transfer makineleri veya bant genişliği gibi tüm kaynakları ayırmadan önce yapabilirsiniz. Bu adımın hedefleri aşağıdakileri içerir: - Aktarımı kurabileceğinizi ve çalıştırabileceğinizi onaylayın - Veri hareketini (örneğin, ağ rotaları) veya operasyonlarınızı (örneğin, aktarım dışı bir adımda gerekli eğitim) engelleyen potansiyel proje durdurma sorunlarını ortaya çıkarın Performans testi.Bu adımda, aşağıdakileri yapmak için üretim kaynakları ayrıldıktan sonra verilerinizin büyük bir örneğinde (genellikle %3,5) bir aktarım gerçekleştirirsiniz: - Ayrılan tüm kaynakları tüketebileceğinizi ve beklediğiniz hızları elde edebileceğinizi onaylayın - Darboğazları ortaya çıkarın ve düzeltin (örneğin, yavaş kaynaklı depolama sistemi) ## 5. Adım: Transferinizin bütünlüğünü sağlama Aktarım sırasında verilerinizin bütünlüğünün sağlanmasına yardımcı olmak için aşağıdaki önlemleri almanızı öneririz: - Yanlışlıkla silmelerin zararını sınırlamak için hedefinizde sürüm oluşturmayı ve yedeklemeyi etkinleştirin - Kaynak verileri kaldırmadan önce verilerinizi doğrulayın Büyük ölçekli veri aktarımları için (petabaytlarca veri ve milyarlarca dosya ile), temel alınan kaynak depolama sisteminin %0,0001 gibi düşük bir temel gizli hata oranı, yine de binlerce dosya ve gigabaytlık veri kaybına neden olur. Tipik olarak, kaynakta çalışan uygulamalar zaten bu hatalara karşı toleranslıdır ve bu durumda fazladan doğrulama gerekli değildir. Bazı istisnai senaryolarda (örneğin, uzun vadeli arşiv), verilerin kaynaktan silinmesinin güvenli kabul edilmesi için daha fazla doğrulama gerekir. Uygulamanızın gereksinimlerine bağlı olarak, aktarım tamamlandıktan sonra uygulamanın istendiği gibi çalışmaya devam etmesini sağlamak için bazı veri bütünlüğü testleri yapmanızı öneririz. Birçok aktarım ürününde yerleşik veri bütünlüğü denetimleri bulunur. Ancak, risk profilinize bağlı olarak, verileri kaynaktan silmeden önce veriler ve bu verileri okuyan uygulamalar üzerinde fazladan bir dizi kontrol yapmak isteyebilirsiniz. Örneğin, bağımsız olarak kaydettiğiniz ve hesapladığınız bir sağlama toplamının hedefte yazılan verilerle eşleşip eşleşmediğini veya uygulama tarafından kullanılan bir veri kümesinin başarıyla aktarıldığını doğrulamak isteyebilirsiniz. ## Yardım bulma Google Cloud, Google Cloud hizmetlerini en iyi şekilde kullanmanız için gerekli yardım ve desteği bulmanız için size çeşitli seçenekler ve kaynaklar sunar: Self servis kaynaklar. Özel desteğe ihtiyacınız yoksa, kendi hızınızda kullanabileceğiniz çeşitli seçenekleriniz vardır. Teknoloji iş ortakları.Google Cloud, ürünlerimizi ve hizmetlerimizi kullanmanıza yardımcı olmak için birden fazla şirketle ortaklık kurmuştur. Google Cloud profesyonel hizmetleri.Profesyonel hizmetlerimiz, Google Cloud'a yaptığınız yatırımdan en iyi şekilde yararlanmanıza yardımcı olabilir Google Cloud Migration Center'da iş yüklerini Google Cloud'a taşımaya yardımcı olacak daha fazla kaynak var Bu kaynaklar hakkında daha fazla bilgi için Google Cloud'a Geçiş: Başlarken'in bulma yardımı bölümüne bakın. ## Sıradaki ne - Aktarım planı oluşturma veya belirli bir kullanım durumu hakkında sorularınız varsa Google Cloud Destek ekibiyle veya doğrudan Google Hesabı ekibinizle iletişime geçebilirsiniz. - Transferinize başlamak için aşağıdaki kılavuzları sunuyoruz: - Genel veri taşıma stratejileri için: Yekpare bir uygulamayı Google Kubernetes Engine'deki mikro hizmetlere taşıma - Çevrimdışı transfer için: Transfer Cihazı - Genel bir buluttan çevrimiçi aktarım için: Depolama Aktarım Hizmeti - Google Cloud ile ilgili referans mimarileri, diyagramları, eğiticileri ve en iyi uygulamaları keşfedin. Bulut Mimarisi Merkezimize bir göz atın.